75% מהמנהלים: סייבר מבוסס AI יעקוף את ההגנה שלנו

עוד איום AI. תמונה: נוצרה באמצעות AI

בינה מלאכותית תגביר את רמת האיומים על הארגון שלכם. זו לא הצהרה מפוצצת או תהייה עמומה על העתיד הרחוק. אתגרי ה-AI הם כבר חלק מובנה ביום-יום של כל ארגון, וזה לא אנחנו טוענים את זה, אלו המספרים של כל סקר כמעט שיצא בשנה האחרונה. הדבר היחיד שאפשר לעשות מול האיום שהולך ומתגבר הוא להיערך מראש, ואולי גם לדעת שמתישהו מתקפה מתוחכמת כנראה תגיע, אז לא להיכנס לפאניקה כשהיא מגיעה.

אבל לצד האיומים ש-AI מביא, צריך להביא בחשבון גם את השינויים המבניים שהוא מכניס לארגון. זה בדיוק מה שבדק הדוח החדש של Salesforce – State of IT, שהתפרסם החודש ועסק כולו בממשק שבין סייבר, פרטיות, רגולציה ובינה מלאכותית. יותר מ־4,000 מקבלי החלטות IT השתתפו בסקר, בהם מעל 2,000 מומחים לאבטחה וציות – כולל עשרות אנשי אבטחת מידע מישראל. כלומר, הפעם אנחנו באמת יודעים איפה אנחנו עומדים – מקומית וגלובלית.

אופטימיות זהירה מול פערים במוכנות

במבט ראשון, ולעין הלא מיומנת, הנתונים יכולים להיראות מאוד אופטימיים: 100% ממנהלי אבטחת המידע בישראל שהשתתפו בסקר מאמינים שסוכני AI יכולים לסייע להם בהתמודדות מול איומי סייבר. אגב, ה-100% הבוהק נשמר גם כשמסתכלים על התמונה הגלובלית.

כל עדכוני ה-IT, תשתית וטכנולוגיה בערוץ הטלגרם של ITtime

יותר מ־75% מהמנהלים הגלובליים צופים שאיומי סייבר מבוססי AI יעקפו בקרוב את כל שכבות ההגנה המסורתיות. בישראל, 80% מהארגונים כבר מגיבים בהתאם: הם מתכננים להעלות את תקציבי האבטחה עוד השנה. לא רק בגלל פישינג וכופרות אלא גם בגלל סוגים חדשים של תקיפות כמו הרעלת דאטה או מתקפות על שרשרת האספקה של מודלים.

ואם כבר תקציב, כדאי לדעת לאן הוא לא הולך: לפי הסקר, פי ארבעה מהתקציב מושקע בתשתיות וניהול דאטה הרבה לפני שמדברים על מודלי AI עצמם. למה? כי מי שאין לו דאטה נקי, לא יכול להריץ עליו שום דבר חכם.

סוכן זה לא קסם – זה תשתית

בישראל, 58% ממנהלי האבטחה מודים: בסיס הנתונים שלהם לא מוכן לעבודה עם סוכנים. 54% אומרים שאין להם מנגנוני הגנה מספיקים לפריסה. רק חצי (!) בטוחים שהם בכלל יכולים לעמוד בתקנים רגולטוריים אם יפרסו סוכן AI מחר בבוקר.

המספרים דומים גם בעולם: 55% לא בטוחים שיש להם את ההגנות הדרושות, ו־53% לא בטוחים שהם יעמדו בדרישות ציות. וזה עוד לפני שדיברנו על אוטומציה. בישראל, 96% מהארגונים לא עברו עדיין לאכיפה אוטומטית של מדיניות ציות.

ומה לגבי ציות רגולטורי? 68% מהמנהלים בעולם אומרים שהוא נעשה קשה יותר, ו־43% מרגישים לא מוכנים לשינויים שמגיעים עם בינה מלאכותית. בישראל, 82% מזהים את האתגר הזה במפורש – אבל מעניין ש־76% גם רואים ב־AI הזדמנות לשיפור הציות.

מתוך State of IT, תמונה: צילום מסך מתוך הדוח

הלקוחות מצביעים ברגליים – ובלב. 71% מהם (ברחבי העולם) אומרים שהאמון שלהם בחברות נמצא בירידה, קפיצה חדה לעומת השנים הקודמות. בישראל, המנהלים רואים את זה היטב:

• 71% מהארגונים לא מספקים שקיפות על איך דאטה של לקוחות מוזן למודלים.
• 71% לא עדכנו את ההנחיות האתיות שלהם לשימוש ב־AI.
• 63% לא בטוחים שהתוצרים של המודלים מדויקים או ניתנים להסבר.

במילים פשוטות: סוכן ה-AI הוא לא רק "עובד חדש", אלא כזה שצריך הסברים, גבולות, שקיפות ומישהו שינהל אותו ברצינות. אז נכון, סוכני ה-AI לא מחליפים בינתיים את העובדים האנושיים, זה עוד רחוק מכך, אבל הם גם לא נולדו כדי לנהל את עצמם. הם חלק מהמערכת הארגונית וצריך שמישהו ידע לשים להם גבולות, להכין עבורם את הקרקע ולדעת מתי הם הופכים ממועילים למסוכנים.