OpenAI הסירה חשבונות הקשורים לפעולות תעמולה ידועות ב רוּסִיָה, סין ואיראן; משרד ישראלי לקמפיין פוליטי; וקבוצה לא ידועה עד כה שמקורה ברוסיה שחוקרי החברה כינו אותה "דקדוק רע". הקבוצות השתמשו בטכנולוגיה של OpenAI כדי לכתוב פוסטים, לתרגם אותם לשפות שונות ולבנות תוכנה שעזרה להם לפרסם באופן אוטומטי ברשתות החברתיות.
אף אחת מהקבוצות הללו לא הצליחה להשיג משיכה רבה; חשבונות המדיה החברתית המשויכים אליהם הגיעו למספר משתמשים בודדים והיו להם רק קומץ עוקבים, אמר בן נימו, חוקר ראשי בצוות המודיעין והחקירות של OpenAI. ובכל זאת, הדו"ח של OpenAI מראה שתעמולה שהיו פעילים במשך שנים במדיה החברתית משתמשים בטכנולוגיית AI כדי להגביר את הקמפיינים שלהם.
"ראינו אותם מייצרים טקסט בנפח גבוה יותר ועם פחות שגיאות ממה שהפעולות הללו הצליחו באופן מסורתי", אמר נימו, שעבד בעבר ב-Meta tracking impact operations, בתדרוך עם עיתונאים. נימו אמר כי ייתכן שקבוצות אחרות עדיין משתמשות בכלים של OpenAI ללא ידיעת החברה.
"זה לא הזמן לשאננות. ההיסטוריה מראה שמבצעי השפעה שבמשך שנים לא הצליחו להגיע לשום מקום עלולות לפרוץ פתאום אם אף אחד לא מחפש אותם", אמר.
להסתבך
סיפורים כדי לעדכן אותך
ממשלות, מפלגות פוליטיות וקבוצות אקטיביסטיות השתמשו במדיה החברתית לנסות להשפיע על הפוליטיקה במשך שנים. לאחר חששות לגבי ההשפעה הרוסית בבחירות לנשיאות 2016, פלטפורמות המדיה החברתית החלו לשים לב יותר לאופן שבו נעשה שימוש באתרים שלהן כדי לסחוף את הבוחרים. החברות בדרך כלל אוסרות על ממשלות וקבוצות פוליטיות לכסות מאמצים משותפים להשפיע על משתמשים, ומודעות פוליטיות חייבות לחשוף מי שילם עבורן.
ככל שכלי בינה מלאכותית שיכולים ליצור טקסט מציאותי, תמונות ואפילו וידאו הופכים לזמינים באופן כללי, כך חוקרי דיסאינפורמציה העלו חששות שיהיה קשה עוד יותר לזהות ולהגיב למידע כוזב או פעולות השפעה סמויות באינטרנט. מאות מיליוני אנשים מצביעים השנה בבחירות ברחבי העולם, והזיופים העמוקים של AI כבר התפשטו.
OpenAI, גוגל וחברות בינה מלאכותיות אחרות עבדו על טכנולוגיה כדי לזהות זיופים עמוקים שנעשו עם הכלים שלהם, אבל טכנולוגיה כזו היא עדיין לא מוכח. כמה מומחי AI חושבים שגלאי זיוף עמוק לעולם לא יהיו יעילים לחלוטין.
מוקדם יותר השנה, קבוצה המזוהה עם המפלגה הקומוניסטית הסינית פרסמה אודיו שנוצר על ידי בינה מלאכותית של מועמד בבחירות בטייוואן, כביכול תומך באחר. עם זאת, הפוליטיקאי, מייסד פוקסקון טרי גו, לא תמך בפוליטיקאי השני.
בינואר, המצביעים בפריימריז בניו המפשייר קיבלו שיחת טלפון שהתיימרה להיות ממנה הנשיא ביידן אך מהר מאוד התגלה כ-AI. בשבוע שעבר, פעיל דמוקרטי שאמר שהוא הזמין את ה-Robocall היה הוגש כתב אישום בגין דיכוי בוחרים והתחזות למועמד.
הדו"ח של OpenAI פירט כיצד חמש הקבוצות השתמשו בטכנולוגיה של החברה בפעולות ניסיון ההשפעה שלהן. Spamouflage, קבוצה ידועה בעבר שמקורה בסין, השתמשה בטכנולוגיה של OpenAI כדי לחקור פעילות ברשתות חברתיות ולכתוב פוסטים בסינית, קוריאנית, יפנית ואנגלית, אמרה החברה. קבוצה איראנית הידועה בשם האיגוד הבינלאומי למדיה וירטואלית השתמשה גם בטכנולוגיה של OpenAI כדי ליצור מאמרים שפרסמה באתר שלה.
Bad Grammar, הקבוצה שלא הייתה ידועה בעבר, השתמשה בטכנולוגיית OpenAI כדי ליצור תוכנית שיכולה לפרסם באופן אוטומטי באפליקציית ההודעות Telegram. Bad Grammar השתמש אז בטכנולוגיית OpenAI כדי ליצור פוסטים ו הערות ברוסית ובאנגלית בטענה שארצות הברית לא צריכה לתמוך באוקראינה, על פי הדו"ח.
הדו"ח מצא גם שחברת קמפיינים פוליטיים ישראלית בשם Stoic השתמשה ב-OpenAI כדי ליצור פוסטים פרו-ישראליים על מלחמה בעזה ולכוון אותם לאנשים בקנדה, ארצות הברית וישראל, אמר OpenAI. ביום רביעי, הבעלים של פייסבוק, Meta, פירסם גם את עבודתו של סטואיק, ואמרה שהיא הסירה 510 חשבונות פייסבוק ו-32 חשבונות אינסטגרם ששימשו את הקבוצה. חלק מהחשבונות נפרצו, בעוד שאחרים היו של אנשים בדיוניים, אמרה החברה לכתבים.
החשבונות המדוברים הגיבו לעתים קרובות בדפים של אנשים ידועים או ארגוני תקשורת, והתחזו לסטודנטים פרו-ישראלים אמריקאים, אפרו אמריקאים ואחרים. ההערות תמכו בצבא הישראלי והזהירו את הקנדים כי "האסלאם הקיצוני" מאיים על ערכים ליברליים שם, אמר מטה.
בינה מלאכותית נכנסה לתמונה בניסוח של כמה הערות, שנראו למשתמשי פייסבוק אמיתיים מוזרים ולא מהקשרם. המבצע הצליח גרוע, אמרה החברה, ומשך רק כ-2,600 עוקבים לגיטימיים.
Meta פעל לאחר המעבדה למחקר משפטי דיגיטלי של המועצה האטלנטית גילה הרשת ב-X.
במהלך השנה האחרונה, חוקרי דיסאינפורמציה הציעו שניתן להשתמש בצ'אטבוטים של AI כדי לנהל שיחות ארוכות ומפורטות עם אנשים ספציפיים באינטרנט, בניסיון להטות אותם לכיוון מסוים. כלי בינה מלאכותית יכולים גם להכיל כמויות גדולות של נתונים על אנשים ולהתאים הודעות ישירות אליהם.
OpenAI לא מצא אף אחד מהשימושים המתוחכמים יותר של AI, אמר נימו. "זו מאוד אבולוציה ולא מהפכה", אמר. "כל זה לא אומר שאולי לא נראה את זה בעתיד."
ג'וזף מן תרם לדוח זה.
