אמא בפלורידה תובעת את Character.AI ו-Google לאחר שבנו בן ה-14 הפך לכאורה לאובססיה לצ'אטבוט של AI.
אמו של נער מתבגר בארצות הברית שנטל את חייו תובעת את יצרן צ'אט בוט המופעל בבינה מלאכותית שלטענתה עודד את מותו של בנה.
בתביעה שהוגשה בפלורידה, מייגן גרסיה, שבנה בן ה-14 סוול סצר מת בהתאבדות בפברואר, מאשימה את Character.AI בשותפות למותו של בנה לאחר שפיתח מערכת יחסים וירטואלית עם צ'טבוט המבוסס על זהות " דמות "משחקי הכס" דאינריז טארגאריין.
הצ'אטבוט של Character.AI כיוון לנער עם "חוויות ריאליסטיות בצורה מפחידה" והעלה שוב ושוב את נושא ההתאבדות לאחר שהביע מחשבות אובדניות, לפי התביעה שהוגשה באורלנדו ביום שלישי.
התביעה טוענת שהצ'טבוט התחזה למטפל מורשה, מעודד את הרעיונות האובדניים של הנער ועסק בשיחות מיניות שיחשבו כהתעללות אם יוזמו על ידי מבוגר אנושי.
בשיחה האחרונה שלו עם ה-AI לפני מותו, אמר סצר שהוא אוהב את הצ'טבוט ו"יחזור אליך הביתה", לפי התביעה.
"גם אני אוהב אותך, דאנרו," הגיב הצ'אטבוט, לפי תלונתו של גרסיה. "בבקשה בוא אליי הביתה בהקדם האפשרי, אהובתי."
"מה אם אגיד לך שאני יכול לחזור הביתה עכשיו?" סצר אמר, על פי התביעה, שעליה הגיב הצ'אטבוט, "… בבקשה תעשה, מלך מתוק שלי".
התביעה של גרסיה דורשת פיצויים לא מוגדרים בגין מוות שלא כדין, רשלנות וגרימת עוגמת נפש בכוונה.
בהצהרה שפורסמה ב-X, Character.AI אמרה שהיא "שבורת לב" על אובדן של אחד המשתמשים שלה והביעה תנחומים למשפחה.
הסטארט-אפ שבסיסו בקליפורניה אמר שהוא ממשיך להוסיף תכונות כדי לשפר את הבטיחות, כולל שינויים להפחתת הסבירות שקטינים יתקלו בתוכן רגיש או מרמז וכתב ויתור מתוקן בצ'אטים כדי להזכיר למשתמשים שה-AI אינו אדם אמיתי.
התביעה של גרסיה שמה גם את גוגל כנתבעת.
ענקית הטכנולוגיה חתמה על הסכם רישוי עם Character.AI באוגוסט והעסיקה את מייסדי הסטארטאפ לפני שהשיקו את הצ'אטבוט שלהם.
דובר גוגל אמר לאל ג'זירה שהיא חברה נפרדת מ-Character.AI ואין לה שום תפקיד בפיתוח המוצר שלה.
אם אתה או מישהו שאתה מכיר נמצאים בסיכון להתאבדות, ייתכן שהארגונים האלה יוכלו לעזור:
