האם GenAI הוא הסוס הטרויאני החדש של הארגונים?
איך מטמיעים מערכות בינה מלאכותית גנרטיבית בצורה אחראית, בטוחה – ובעיקר לא עיוורת? שלושה מומחים בכירים הגיעו לעשות סדר ולהציג גישות מתקדמות להתמודדות עם אתגרי האבטחה, הסייבר והאמון
הבינה המלאכותית הגנרטיבית כבר כאן – מתדפקת על שערי הארגונים ומבטיחה שדרוגים, אוטומציה וחדשנות בקנה מידה שלא הכרנו. אבל האם ייתכן שדווקא מאחורי המראה המבריק מסתתר סוס טרויאני מתוחכם, שגולש פנימה אל ליבת הפעילות הארגונית מבלי שנבחין במה הוא מחביא מתחת למכסה? בוובינר "כשהאלגוריתם גם שומר וגם פורץ", בהובלה של ד"ר לוי שאול במסגרת מרכז מצוינות Data & AI בלשכה לטכנולוגיות מידע, בשבוע שעבר בו השתתפו כ-200 איש שערכה הלשכה לטכנולוגיות מידע בשבוע שעבר עלו שלוש פרספקטיבות משלימות על איך נראה יישום אחראי של GenAI – כזה שלא רק מוודא שהמערכת עובדת, אלא שהיא גם לא הופכת לבעיה האבטחתית הבאה של הארגון.
הסיכון האמיתי: משטח תקיפה חדש להאקרים
ד"ר יותם אשכנזי, מנהל תחום חדשנות אבטחת מידע ב-Accenture, פתח את הוובינר עם סקירה של הסכנות השקטות שמתחבאות מאחורי היכולות המרשימות של GenAI. לדבריו, מערכות כאלה חשופות לפגיעות גם בשלב האימון (למשל, שינוי דפוסי פעולה או גניבת מידע) וגם בזמן הריצה, דרך מניפולציות שגורמות להן להנפיק תוצאה שגויה. הוא מיפה את האיומים לשלושה מישורים: תשתית (קוד זדוני), דאטה (גישה רחבה למידע רגיש) ומוניטין (תוצרים שגויים שמערערים את אמון הלקוחות). אחת הדוגמאות הבולטות: זליגת מידע מארגונים דרך מערכות GenAI.
מיכאל קונדרשין, Senior Solution Architect ב-Trend Micro ישראל, הציג גישה פרואקטיבית נוספת: לא רק איך מגנים על המערכות – אלא איך משתמשים ב-AI כדי להגן על עצמה. הוא הדגים את Cybertron, מנוע ה-Agentic AI של החברה, שמאתר תבניות תקיפה, מזהה אנומליות בזמן אמת ומסייע בניתוח קוד זדוני. לדבריו, ההגנה צריכה להתמקד בשלוש שכבות קריטיות: הדאטה, הקונטיינרים שמריצים את המודל, והתשתית עצמה. בין הדוגמאות: זיהוי מוקדים רגישים בדאטה כמו טרנזקציות פיננסיות, או סוכני AI ש"מדמים" תוקף פוטנציאלי ובוחנים איך הוא היה פועל.
האחריות לא נגמרת בקוד תקין
את הוובינר חתמה ד"ר לימור זיו, מנכ"לית ומייסדת-שותפה של Humane AI, מרצה באוניברסיטאות מובילות ויועצת לחברות בהטמעת בינה מלאכותית וטיוב דאטה,. היא הדגישה כי מוצרי AI לעולם לא יהיו טובים יותר מדאטה שהם מקבלים – ואיכות הדאטה היא הבסיס לדיוק, אמינות ובטיחות. לדבריה, "איכות הדאטה היא הפרמטר הדומיננטי שמכתיב את הדיוק, האמינות והבטיחות של כל מערכת".
זיו הציגה מתודולוגיה שפותחה ב-Humane AI לפיתוח מוצרי דאטה מאובטחים־מיסודם (Secure-by-Design), הכוללת זיהוי סיכונים בתשתיות המידע, הגדרה ותיוג מדויק של שדות, הקמת צינורות נתונים מאובטחים עם ולידציה רציפה ומנגנוני ניטור אקטיביים לשינויים באיכות. לדבריה, כ־80% מהחברות המפתחות מערכות AI מתמודדות עם דאטה פגום או חלקי הפוגע בדיוק וביעילות. Humane AI מובילה תהליכים של הערכה, ניקוי ותיקון דאטה חסר או לא עקבי, יישום תיוג חכם לפי צורכי העסק והעשרה ייעודית של המידע (Enrichment), במטרה לאפשר לחברות לפתח מערכות בינה מלאכותית מדויקות, מהימנות ובטוחות – שמייצרות ערך אמיתי ללקוחות
