מפתחת הצ'אטבוט "קלוד" מנסה להגדיר מתי הבינה המלאכותית שלה חוצה קווים אדומים ומסכנת את העולם. אם המודלים שלה יוכלו לסייע בפיתוח נשק כימי או ביולוגי — הפיתוח ייעצר ויתווספו שכבות אבטחה. במקביל, היא מחזקת את מנגנוני ההגנה שלה — כי במרוץ ל-AI חזק יותר, הבלמים חשובים לא פחות מהמנוע
Source link
