OpenAI, החברה העומדת מאחורי כלי בינה מלאכותית גנרטיבית כמו ChatGPT, הודיעה ביום חמישי כי הסירה פעולות השפעה הקשורות לרוסיה, סין ואיראן.
סטפני ריינולדס / AFP באמצעות Getty Images
הסתר כיתוב
החלף כיתוב
סטפני ריינולדס / AFP באמצעות Getty Images
פעולות השפעה מקוונות המבוססות ברוסיה, חרסינהאיראן וישראל משתמשות בבינה מלאכותית במאמציהן לתמרן את הציבור, על פי דו"ח חדש של OpenAI.
שחקנים גרועים השתמשו בכלים של OpenAI, הכוללים ChatGPT, כדי ליצור הערות במדיה חברתית במספר שפות, להמציא שמות ו-BIOS עבור חשבונות מזויפים, ליצור קריקטורות ותמונות אחרות ולנקות באגים בקוד.
של OpenAI להגיש תלונה הוא הראשון מסוגו מהחברה, שהפכה במהירות לאחת השחקנים המובילים בתחום הבינה המלאכותית. ChatGPT צברה יותר מ-100 מיליון משתמשים מאז ההשקה הפומבית שלה בנובמבר 2022.
אבל למרות שכלי בינה מלאכותית עזרו לאנשים שמאחורי פעולות השפעה לייצר יותר תוכן, לעשות פחות שגיאות וליצור מראית עין של מעורבות בפוסטים שלהם, OpenAI אומר שהפעולות שהיא מצאה לא זכו למשיכה משמעותית עם אנשים אמיתיים או הגיעו לקהלים גדולים. במקרים מסוימים, המעורבות האותנטית הקטנה שהפוסטים שלהם קיבלו הייתה ממשתמשים שכינו אותם כמזויפים.
"הפעולות האלה אולי משתמשות בטכנולוגיה חדשה, אבל הן עדיין נאבקות בבעיה הישנה של איך לגרום לאנשים ליפול עליה", אמר בן נימו, חוקר ראשי בצוות המודיעין והחקירות של OpenAI.
זה מהדהד את זה של בעל פייסבוק Meta דוח איומים רבעוני פורסם ביום רביעי. הדו"ח של Meta אמר שכמה מהפעולות החשאיות שהיא הסירה לאחרונה השתמשו בבינה מלאכותית ליצירת תמונות, וידאו וטקסט, אך השימוש בטכנולוגיה המתקדמת לא השפיע על יכולתה של החברה לשבש את המאמצים לתמרן אנשים.
הפריחה בבינה מלאכותית גנרטיבית, שיכולה לייצר במהירות ובקלות אודיו, וידאו, תמונות וטקסט מציאותיים, יוצרת אפיקים חדשים להונאה, הונאות ו מָנִיפּוּלָצִיָה. בפרט, הפוטנציאל של AI מזייף לשבש בחירות מעורר פחדים כמו מיליארדי אנשים ברחבי העולם ללכת לקלפיות השנה, כולל ב לָנוּהודו והאיחוד האירופי.
בשלושת החודשים האחרונים, OpenAI אסרה חשבונות הקשורים לחמש פעולות השפעה סמויות, אותן היא מגדירה כ"נסיונות לתמרן את דעת הקהל או להשפיע על תוצאות פוליטיות מבלי לחשוף את הזהות האמיתית או את כוונותיהם של השחקנים שמאחוריהם".
זה כולל שתי פעולות המוכרות היטב לחברות מדיה חברתית ולחוקרים: הדופלגנגר הרוסי ורשת סינית רחבת ידיים המכונה ספאם.
דופלגנגר, שהיה קשור לקרמלין על ידי משרד האוצר האמריקאי, ידוע זיוף אתרי חדשות לגיטימיים לערער את התמיכה באוקראינה. Spamouflage פועלת על פני מגוון רחב של פלטפורמות מדיה חברתית ופורומים באינטרנט, דוחפת הודעות פרו-סין ותוקפת את מבקרי בייג'ינג. בשנה שעברה, הבעלים של פייסבוק, Meta, אמר שספאמופלאג' הוא מבצע ההשפעה הסמוי הגדול ביותר שהוא שיבש אי פעם וקשר אותו לאכיפת החוק הסינית.
גם Doppelganger וגם Spamoflage השתמשו בכלי OpenAI כדי ליצור הערות במספר שפות שפורסמו באתרי מדיה חברתית. הרשת הרוסית השתמשה גם בבינה מלאכותית כדי לתרגם מאמרים מרוסית לאנגלית וצרפתית ולהפוך מאמרים באתר לפוסטים בפייסבוק.
חשבונות Spamouflage השתמשו בבינה מלאכותית כדי לנפות באגים בקוד לאתר המכוון למתנגדים סינים, לנתח פוסטים במדיה חברתית ולחקור חדשות ואירועים אקטואליים. חלק מהפוסטים מחשבונות Spamoflage מזויפים קיבלו תשובות רק מחשבונות מזויפים אחרים באותה רשת.
רשת רוסית אחרת שלא דווחה בעבר שנאסרה על ידי OpenAI מיקדה את מאמציה בספאם אפליקציית ההודעות טלגרם. היא השתמשה בכלי OpenAI כדי לנפות באגים בקוד עבור תוכנית שפרסמה אוטומטית בטלגרם, והשתמשה בבינה מלאכותית כדי ליצור את ההערות שחשבונותיה פרסמו באפליקציה. בדומה לדופלגנגר, מאמצי המבצע נועדו בגדול לערער את התמיכה באוקראינה, באמצעות פוסטים שהכבידו על הפוליטיקה בארה"ב ובמולדובה.
קמפיין נוסף ש-OpenAI וגם Meta אמרו שהם שיבשו בחודשים האחרונים נבע ממשרד שיווק פוליטי בתל אביב בשם Stoic. חשבונות מזויפים התחזו לסטודנטים יהודים, אפרו-אמריקאים ואזרחים מודאגים. הם פרסמו פוסטים על המלחמה בעזה, שיבחו את צבא ישראל וביקרו את האנטישמיות בקולג' ואת סוכנות הסיוע של האו"ם לפליטים פלסטינים ברצועת עזה, לפי מטא. הפוסטים כוונו לקהל בארה"ב, קנדה וישראל. Meta אסרה על סטואיק מהפלטפורמות שלה ושלחה לחברה מכתב הפסקה.
OpenAI מסרה כי המבצע הישראלי השתמש בבינה מלאכותית כדי ליצור ולערוך מאמרים ותגובות שפורסמו באינסטגרם, פייסבוק ו-X, כמו גם כדי ליצור פרסונות ו-BIOS פיקטיביים עבור חשבונות מזויפים. היא גם מצאה פעילות מסוימת של הרשת המכוונת לבחירות בהודו.
אף אחת מהפעולות ש-OpenAI שיבשה לא השתמשה רק בתוכן שנוצר בינה מלאכותית. "זה לא היה מקרה של ויתור על הדור האנושי ומעבר ל-AI, אלא של ערבוב בין השניים", אמר נימו.
הוא אמר שבעוד בינה מלאכותית מציעה לשחקני איום כמה יתרונות, כולל הגברת הנפח של מה שהם יכולים לייצר ושיפור תרגומים לשפות, זה לא עוזר להם להתגבר על האתגר העיקרי של ההפצה.
"אתה יכול להפיק את התוכן, אבל אם אין לך את מערכות ההפצה להנחית אותו בפני אנשים בצורה שנראית אמינה, אז אתה תתקשה להעביר אותו", אמר נימו. "ובאמת מה שאנחנו רואים כאן הוא הדינמיקה הזאת שמתנגנת".
אבל חברות כמו OpenAI חייבות להישאר ערניות, הוא הוסיף. "זה לא הזמן לשאננות. ההיסטוריה מראה שמבצעי השפעה שבמשך שנים לא הצליחו להגיע לשום מקום עלולות לפרוץ פתאום אם אף אחד לא מחפש אותם".
