תופעת ה-Shadow AI מסכנת ארגונים – ולא בטוח שאפשר לעצור את זה

תמונה: נוצרה באמצעות AI

בואו נשים את כל הקלפים על השולחן: בכל ארגון יש את העובדים שחושבים שהם יודעים יותר טוב מכולם ולכן משתמשים בכלים בהם הם אוהבים, גם אם אלו לא אושרו על ידי אנשי ה-IT. זה גם לא סוד שתופעת ה-Shadow IT הפכה מזמן למטרד. אבל בשנה האחרונה התגלתה תופעה חדשה, שנולדה מתוך עולמות ה-Shadow IT והיא מסוכנת בהרבה – Shadow AI.

אותם כלי בינה מלאכותית שההנהלה מעודדת את העובדים להשתמש בהם כדי לייעל את הזמן, גם אם הם לא בהכרח אושרו על ידי אנשי ה-IT, הפכו הפכו לגרסה הפופולרית ביותר של Shadow IT בארגונים ברחבי העולם – חוץ מהאיימיל האישי, אליו אנשים נוהגים להתחבר מהמחשב הארגוני משום מה.

על פי מחקר חדש של חברת 1Password הקנדית, למרות שהשימוש ב-AI בארגון בהחלט מקודם בהנהלה, 37% מהעובדים שהשתתפו במחקר הודו שאינם מקפידים על מדיניות הארגון בעת השימוש בכלים הללו. מדאיגה עוד יותר העובדה כי 27% מהעובדים הודו שהשתמשו בכלי AI שלא אושרו על ידי הארגון.

לשם השוואה, שיעור העובדים שהורידו אפליקציות ללא אישור צוות ה-IT עומד על 52%, אך ב-1Password הזהירו כי Shadow AI היא תופעה חמורה אף יותר: "כלים כאלה עלולים לשאוב מידע רגיש לתוך מאגרי האימון שלהם, להפר חוקים רגולטוריים, או לתפקד ממש כמו נוזקות".

כל עדכוני ה-IT, תשתית וטכנולוגיה בערוץ הטלגרם של ITtime

1Password, הוקמה בשנת 2006 בקנדה ונחשבת כיום לאחת מהחברות הוותיקות והמובילות בתחום ניהול הסיסמאות. את המחקר היא ערכה בקרב 5,200 עובדים ב-6 מדינות: קנדה, צרפת, גרמניה, סינגפור, בריטניה וארצות הברית.

באירוע שקיימה השבוע החברה, בו הציגה את ממצאי המחקר השנתי, דיבר גם מארק הייזלטון, מנהל האבטחה הראשי של קבוצת הפורמולה 1 Oracle Red Bull Racing, שטען כי עליית ה-Shadow AI נובעת מהצורך של עובדים להגביר פרודוקטיביות בכל דרך: "הם רוצים פשוט לסיים עם העבודה. ארגונים שינסו להגביל אותם פשוט יגלו שהם ימצאו דרך לעקוף את ההגבלות".

והוא כנראה לא טועה: על פי המחקר, 45% מהמשתמשים בכלי AI שלא אושרו בארגון עושים זאת מטעמי נוחות. 43% טוענים שהם באמת מרגישים פרודוקטיביים יותר כשהם משתמשים בכלי AI.

המשימות העיקרות של ה-AI

על פי הדוח, עובדים יעדיפו להשתמש בכלי AI עבור כל משימה שבה הם מאמינים שהתוצר שיביא יהיה איכותי מספיק כדי שלא יצטרכו להתעכב עליו:

• 22% משתמשים ב-AI כדי לסכם שיחות עם לקוחות
• 21% משתמשים בו כדי לנתח את הדאטה של הלקוחות.
• 16% משתמשים בו לניתוח מועמדים בתהליכי גיוס
• 16% נוספים משתמשים בו כדי לנתח את הדאטה של החברה

אז איך מתמודדים עם Shadow AI? כנראה שהכי נכון זה לא להיאבק בכלים, אלא פשוט לבדוק ולאשר אותם. על פי הדוח, כדאי לנהל רישום מלא של כל כלי ה-AI שמשמשים את הארגון ולבצע ביקורות תקופתיות בקרב העובדים, לקבוע מדיניות ברורה לשימוש בכלי AI, לאכוף אותה, ולהכווין עובדים לכלים מאושרים בלבד ולהשקיע בכלים שיוודאו שרק מערכות מאושרות יכולות לגשת לדאטה של החברה.