מנהלי אבטחה בארגונים מבקשים לעצור רגע עם ה-AI

עוד איום AI. תמונה: נוצרה באמצעות AI

לפני כמעט שנתיים החל מירוץ ה-AI בארגונים – מי מטמיע הכי מהר, מי מייעל הכי טוב, מי הכי חדשני? לא ברור מתי יגיע קו הסיום אבל לאחרונה מומחי סייבר מבקשים לעצור רגע, ולקחת כמה נשימות.

מחקר חדש, שנערך על ידי חברת Cobalt חשף כי כמעט מחצית (48%) מהמומחים שנשאלו היו שמחים לעצור ל"פסק זמן אסטרטגי מהבינה המלאכותית היוצרת", כדי לוודא שההגנות שלהן מוכנות להתמודד עם הטכנולוגיה. למרות הרצון הטוב, הם מעידים כי ברור להם שהם לא יזכו לזה.

על פי המחקר, למעלה מ-72% ציינו כי מתקפות הקשורות לבינה מלאכותית גנרטיבית הן הסיכון המרכזי ביותר מבחינת ה-IT בארגון, אך שליש מהם עדיין אינם מבצעים הערכות סיכונים סדירות, כולל בדיקות Pentesting, למערכות מבוססות מודלי שפה גדולים (LLM). "המחקר שלנו מראה כי GenAI משנה גם את אופן העבודה וגם את הסיכון. אם לא נעדכן את יסודות מערכת האבטחה שלנו, אנחנו נבנה את את העתיד שלנו על גבי הגנות מיושנות", אמר מנכ"ל Cobalt, גונטר אולמן.

כל עדכוני ה-IT, תשתית וטכנולוגיה בערוץ הטלגרם של ITtime

החששות העיקריים שעלו מהסקר נגעו לחשיפת מידע רגיש (46%), הרעלת מודלים או גניבתם (42%), נתונים לא מדויקים (40%) ודליפת מידע ממערכי האימון (37%). בנוסף, מחצית מהמשיבים הביעו רצון לשקיפות גבוהה יותר מצד ספקי תוכנה בנוגע לאופן שבו הם מזהים ומטפלים בפרצות אבטחה – דבר שמעיד, לטענת החוקרים, על פער אמון הולך וגדל בשרשרת האספקה של מערכות הבינה המלאכותית.

יותר מדי תלות בגורמים חיצוניים

בארגונים רבים אין את הידע המקצועי הדרוש כדי לזהות, לאבחן ולתקן פרצות אבטחה ייחודיות ל-LLM, מה שמוביל לתלות מופרזת בספקי מודלים חיצוניים או בכלי עזר, שחלקם כלל אינם רואים את הפרצות האלה כעדיפות. המצב חמור במיוחד כשמדובר בפרצה שמובנית במודל הבסיס עצמו.

המחקר חשף פער מדאיג בטיפול בפרצות חמורות: בעוד ש-69% מהפרצות הקריטיות בכלל מערכי הבדיקות מטופלות, רק 21% מהפרצות שנמצאו במערכות מבוססות LLM זוכות לטיפול בפועל – שיעור הסגירה הנמוך ביותר מכל סוגי הבדיקות. הנתון מדאיג במיוחד לנוכח העובדה ש-32% מהממצאים בבדיקות LLM מוגדרים חמורים. אמנם ממוצע הזמן לתיקון (MTTR) עבור פרצות LLM שכן מטופלות עומד על 19 יום בלבד, הזמן הקצר ביותר מבין כלל הבדיקות, אך לפי החוקרים, ייתכן שזה נובע מהנטייה לתעדף את התיקונים הקלים והמהירים ולאו דווקא את הקריטיים שבהם.

"בדומה למה שקרה עם המעבר המהיר לענן – גם כאן, GenAI חושפת פער עמוק בין קצב החדשנות ליכולת ההגנה", סיכם אולמן, "כלי האבטחה הוותיקים לא בנויים לעולם של מודלי שפה. הגיע הזמן לעבור מביקורות תגובתיות לבדיקות יזומות ומובנות ומהר".