ענקית הסייבר הבינלאומית טרנד מיקרו (Trend Micro) פרסמה היום מחקר חדש החושף כי בעוד שארגונים ברחבי העולם מאמצים את הבינה המלאכותית כדי לחזק את מערכי הגנות הסייבר שלהם, רבים מודאגים במידה הולכת וגוברת מהאפשרות שהטכנולוגיה תרחיב את שטח החשיפה למתקפות ואף תוביל לאיומים חדשים.
על פי המחקר, 81% מהעסקים ברחבי העולם כבר משתמשים בכלים מבוססי AI כחלק מאסטרטגיית אבטחת הסייבר שלהם, כאשר 16% נוספים נמצאים בשלבי בחינה והטמעה פעילים. כמעט כל המשיבים (97%) הביעו נכונות להשתמש בבינה מלאכותית בצורה כלשהי. יותר ממחצית כבר מסתמכים על הטכנולוגיה בתהליכים חיוניים כגון גילוי נכסים אוטומטי, תעדוף סיכונים וזיהוי חריגות. עבור42% מהארגונים, בינה מלאכותית ואוטומציה יקבלו עדיפות עליונה בכל הקשור לשיפור אבטחת הסייבר ב-12 החודשים הקרובים.
עם זאת, לצד האופטימיות קיימים גם סיכונים משמעותיים.94% מהארגונים מאמינים שהשימוש ב-AI עלול להחמיר את חשיפת סיכוני הסייבר שלהם בטווח של שלוש עד חמש שנים. למעלה ממחצית צופים עלייה משמעותית בהיקף ובמורכבות של מתקפות מבוססות AI, מה שיאלץ אותם לבחון ולעצב מחדש את האסטרטגיות הקיימות.
רבים מצביעים על הסיכון לחשיפת מידע רגיש, חוסר וודאות בנוגע לאופן עיבוד ואחסון הנתונים על ידי מערכות AI, האפשרות שמידע קנייני ינוצל לרעה על ידי מודלים לא מהימנים, כמו גם אתגרי עמידה ברגולציה וניטור הנובעים מריבוי נקודות קצה חדשות, ממשקי API ו-Shadow IT.
המתח בין הזדמנויות לבין סיכונים בא לידי ביטוי גם באירוע Pwn2Own של טרנד מיקרו שנערך בברלין, במהלכו הוצגה לראשונה קטגוריית ה-AI. התוצאות סיפקו תמונת מצב מטרידה של מצב אבטחת ה-AI כיום.
12 צוותים התמודדו מול ארבע פלטפורמות AI מרכזיות, כאשר שרת NVIDIA Triton Inference היה המטרה המרכזית. גם Chroma, Redis ו-NVIDIA Container Toolkit נפרצו בהצלחה, בחלק מהמקרים באמצעות באג יחיד בלבד שהוביל להשתלטות מלאה. בסך הכול התגלו שבע חולשות Zero-Day ייחודיות בפלטפורמות ה-AI. החברות קיבלו 90 יום לתקן את הפגיעויות לפני שפרטי המתקפות ייחשפו לציבור.
לדברי רייצ’ל ג’ין, סמנכ"לית פלטפורמות ארגוניות בטרנד מיקרו: "בינה מלאכותית טומנת בחובה פוטנציאל עצום לחיזוק מערכות הגנות הסייבר, החל מזיהוי חריגות בזמן אמת ועד אוטומציה של משימות שדורשות זמן ומשאבים. אבל חשוב להבין שגם תוקפים ממהרים לנצל את היכולות הללו למטרותיהם, מה שיוצר נוף איומים משתנה ודינמי. המחקר שלנו, יחד עם בדיקות שטח בעולם האמיתי, מדגישים את הצורך הקריטי לשלב אבטחה כבר בשלבים הראשונים של פיתוח והטמעת מערכות בינה מלאכותית. זהו לא תחום שניתן להותיר לטיפול בדיעבד – הסיכון גבוה מדי".
ככל שהבינה המלאכותית משתלבת עמוק יותר בסביבות IT ארגוניות, טרנד מיקרו קוראת למובילי אבטחה בארגונים לקחת אחריות יזומה ולבצע הערכה שיטתית של נוף האיומים המשתנה, תוך שילוב פרקטיקות אבטחה קפדניות בכל שלב של אימוץ מערכות בינה מלאכותית.\
המחקר בוצע באמצעות Sapio Research והוא כלל 2,250 משתתפים בתפקידי IT ואבטחת מידע במגוון מגזרים מ-21 מדינות ברחבי אירופה, צפון אמריקה ודרום מזרח אסיה.
