גרטנר מזהירה: Shadow AI יגרום ל-40% מהארגונים לתקריות אבטחה עד 2030
שימוש בכלי AI לא מאושרים מזנק בלא מעט ארגונים, ו-69% ממנהלי האבטחה כבר יודעים לזהות מתי העובדים משתמשים בכלים לא מאושרים
תמונה: נוצרה באמצעות AI
אם העובדים בארגון שלכם אוהבים להשתמש בכלי בינה מלאכותית, וכולנו יודעים שזה אכן המצב, כדאי שתכירו גם את הנתון הבא: עד שנת 2030 כ-40% מהארגונים יאלצו להתמודד עם תקריות אבטחה בגלל Shadow AI, כך טוענת חברת המחקר גרטנר.
על פי חברת המחקר, סקר שנערך בקרב מנהלי וסמנכ"לי אבטחת מידע חושף עלייה משמעותית בחשש מפני שימוש בכלי בינה מלאכותית שלא אושרו על ידי צוותי ה-IT וההנהלה. כ-69% מהמשיבים דיווחו כי ארגונם חושד או יודע בוודאות על עובדים המשתמשים בכלים אלה, המוגדרים כ"אסורים". לדברי החברה, הכלים הלא מאושרים מעלים את הסיכון לחשיפת מידע רגיש, איבוד קניין רוחני ובעיות נוספות של אבטחה ועמידה ברגולציות.
לדברי החברה, הצעד הנכון ביותר עבור מנהלי אבטחת המידע הוא להגדיר מדיניות ברורה לאילו כלי AI מותר לשלב בתהליך העבודה, לבצע בדיקות תקופתיות על מנת לוודא שעובדים לא משתמשים בכלים לא מאושרים ולבצע הערכת סיכונים של GenAI בכל מערכת SaaS חדשה.
בנוסף, בגרטנר מעריכים כי עד לסוף העשור כמחצית מהארגונים יגלו שהם לא יכולים לשדרג את מערכות הבינה המלאכותית שלהם בזמן בגלל "חוב טכני" שיווצר מתוצרים לא מסודרים של GenAI. כמו כן, בחברה טוענים שתחזוקת תשתית AI תהיה יקרה מדי עבור לא מעט ארגונים.
ויש גם רגולציה באופק
בחברה צופים כי שעד לשנת 2028, זאת אומרת ממש שנתיים למעשה, כשליש מהממשלות ברחבי העולם יכניסו חוקים חדשים שיגבילו את האזורים בהם מותר לשמור נתונים או מודלים של AI, מה שיוביל להאטה בפרויקטים, הקפצת עלויות ודרישת שינויים מאסיביים בתהליכי העבודה.
לטענת החברה יש להביא בחשבון גם את כמות הספקים שאיתה עובדים, בטח בעולמות ה-AI: הרבה ארגונים בוחרים ספק AI אחד לכל המערכת, כדי להתקדם מהר. זה נוח אבל יוצר תלות מסוכנת לדברי מומחי החברה: קשה להחליף ספק, קשה לנהל משא ומתן, והמערכת נהיית תקועה בפלטפורמה אחת. בגרטנר ממליצים לבחור מערכות שעובדות עם תקנים פתוחים, API פתוח וארכיטקטורה מודולרית.
בסופו של דבר, גרטנר מציבה מראה לארגונים: ההתלהבות מכלי בינה מלאכותית מביאה ערך, אבל גם מייצרת כאבי ראש חדשים. Shadow AI, חוב טכני, רגולציה מתקרבת ותלות בספק יחיד. כל אלה מצטברים לתמהיל שעלול לשתק ארגונים שלא ייערכו בזמן. כדי לא להיתקע מאחור, מומחי החברה מזכירים שמדיניות ברורה, פיקוח רציף ובחירה זהירה של ספקים הם כבר לא "nice to have", הם הכרח לשרידות ארגונית.
