OpenAI ומטה שיבשו שתיהן את פעולות ההשפעה החשאיות הקשורות לאותו ארגון למטרות רווח בישראל, כך חשפו החברות השבוע בדוחות שקיפות עצמאיים.
שתי ענקיות הטכנולוגיה הודיעו תוך יממה אחת מהשנייה ש-STOIC, חברת שיווק פוליטי ובינה עסקית שבסיסה בתל אביב, השתמשה במוצרים שלהן במרושע כדי לתמרן שיחות פוליטיות שונות באינטרנט.
OpenAI, חברת הבינה המלאכותית הגנרטיבית מאחורי ChatGPT, חשפה בדיווח ביום חמישי כי היא אסרה על רשת חשבונות המופעלת על ידי STOIC, שהיא תיארה כ"שחקן איומים ישראלי להשכרה" המפרסמת בנוסף תוכן אנטי-חמאס ופרו-ישראלי. לתכנים פוליטיים אחרים.
בינתיים, בדו"ח האיום הרבעוני שלה שפורסם ביום רביעי, מטה אישרה שהיא הסירה גם 510 חשבונות פייסבוק, 11 עמודים וקבוצה אחת, כמו גם 32 חשבונות אינסטגרם, המקושרים לאותה פעולה. Meta הודיעה כי היא אסרה את STOIC מהפלטפורמות שלה וכי היא הוציאה מכתב הפסקה "בדרישה להפסיק לאלתר פעילות המפרה את המדיניות של Meta".
OpenAI ומטה לא הגיבו מיד לבקשות להגיב. ניסיון להגיע ל-STOIC באמצעות מייל ליצירת קשר המופיע באתר האינטרנט שלה נדחה על ידי ספק הדוא"ל של הנמען, וגם הודעות שנשלחו לאדם הרשום שם כמנהל הטכנולוגיה הראשי של החברה לא נענו.
באתר האינטרנט שלהSTOIC מציגה את מערכת יצירת התוכן בינה מלאכותית שלה כמסייעת למשתמשים "ליצור באופן אוטומטי תוכן ממוקד ולהפיץ אותו באופן אורגני במהירות לפלטפורמות הרלוונטיות."
החברות פצחו בפעולה לכאורה מונעת בינה מלאכותית תוך כדי דאגה גודלת כיצד ניתן להשתמש בכלי בינה מלאכותית יותר ויותר מתוחכמים כדי להפיץ מידע מוטעה לקראת הבחירות לנשיאות ארה"ב השנה. 20 חברות טכנולוגיה – כולל מטה, מיקרוסופט וגוגל – חתם על התחייבות השנה כדי לנסות למנוע מבינה מלאכותית להתערב בבחירות.
הדוח של OpenAI אמר ש-STOIC השתמשה במודלים של OpenAI כדי ליצור ולערוך מאמרים באינטרנט, כמו גם תגובות ברשתות חברתיות שפורסמו מאוחר יותר בפייסבוק, אינסטגרם, X, YouTube וטלגרם.
הרשת גם תזייף מעורבות, על פי הדיווח: לאחר שהחשבונות פרסמו את הערותיהם על הסכסוך בעזה, מספר חשבונות יענו עם טקסט שנוצר גם הוא מאותה פעולה באמצעות המודלים של OpenAI. מטה גם הוסיפה כי נראה כי החשבונות בפלטפורמות שלה קנו לייקים ועוקבים מווייטנאם.
OpenAI אמרה שהחשבונות השתמשו במודלים שלה כדי להמציא ביוגרפיה עבור מדיה חברתית ושנראה שרבות מתמונות הפרופיל שלהם נוצרו גם כן, כאשר חלק מהחשבונות משתמשים באותה תמונה עבור אנשים שונים כביכול. Meta אמרו שהם "התחזו כמקומיים במדינות שאליהן כיו, כולל כסטודנטים יהודים, אפרו-אמריקאים ואזרחים 'מודאגים'".
OpenAI גם קשרה את המבצע למספר אתרי אינטרנט – כלומר uc4canada.com, the-good-samaritan.com, ufnews.io ו-nonagenda.com – שהדו"ח שלה רשום כקבוצות אקטיביסטיות לא אותנטיות המתמקדות בעזה וביחסים רחבים יותר בין יהודים-מוסלמים.
הפעילות של STOIC פנתה בעיקר לקהלים בארה"ב ובקנדה שמשתמשים באנגלית ובעברית כדי לפרסם על מלחמת ישראל-חמאס, אמרו החברות. רשתות כאלה שיבחו את הפעולות הצבאיות של ישראל, מתחו ביקורת על סוכנות הסעד והתעסוקה של האו"ם לפליטים פלסטינים במזרח הקרוב והאשימו בין מוקדים אחרים את מפגינים פרו-פלסטינים בקמפוסים של מכללות אמריקאיות בקידום אנטישמיות וטרור.
חשבונות חדשים המשיכו להופיע גם כשפלטפורמות המדיה החברתית זיהו והשביתו חשבונות ישנים יותר, אמרו החברות. אבל הדיווחים שלהם ציינו שהמבצע משך מעט, אם בכלל, מעורבות אותנטית מחשבונות מחוץ לרשתות שלה. Meta אמרה שכאשר החשבונות שלה הגיבו על דפי פייסבוק של ארגוני תקשורת או דמויות פוליטיות וציבוריות, משתמשים אותנטיים היו מגיבים לעתים קרובות בביקורתיות וקוראים להם כתעמולה.
"מצאנו והסרנו את הרשת הזו בשלב מוקדם במאמצי בניית הקהל שלה, לפני שהצליחו להשיג מעורבות בקרב קהילות אותנטיות", כתבה מטה בדו"ח שלה.
גם OpenAI וגם Meta דיווחו על שיבוש פעולות השפעה חשאיות המבוססות ברוסיה ובסין, כאשר רשתות בשתי המדינות משתמשות בטקטיקות דומות ונראה כי הן משלבות כלי בינה מלאכותית בתעמולה שלהן.
בניתוח מגמות נפוצות על פני הפעולות השונות שהיא תפסה רוח, כתב OpenAI ב-a פוסט בבלוג שגם כשהם השתמשו בבינה מלאכותית, השחקנים האנושיים מאחורי הרשתות היו "מועדים בדיוק לטעות אנוש" כמו שאנשים היו תמיד – כמו למשל על ידי פרסום הודעת סירוב מהירה של מודל בינה מלאכותית ולא פלט בפועל.
"AI יכול לשנות את ערכת הכלים שבה משתמשים מפעילים אנושיים, אבל זה לא משנה את המפעילים עצמם", כתבה החברה והוסיפה, "למרות שחשוב להיות מודעים לכלים המשתנים שגורמי איומים משתמשים בהם, אסור לנו לאבד מעיניהם המגבלות האנושיות שיכולות להשפיע על פעילותם וקבלת ההחלטות שלהם".
