AI נגד הארגון: איך להתמודד עם מתקפות הסייבר החכמות?

עיבוד תמונה: dreamstime

מאת קארין לגזיאל

כולם ממהרים לאמץ בינה מלאכותית מתוך הצורך להישאר תחרותיים ולהוביל בחדשנות טכנולוגית. חברות משקיעות משאבים אדירים ב-AI כדי לשפר את התפעול ואת חוויית הלקוחות, ומדינות משקיעות מיליארדים בפיתוח אקוסיסטמים של AI. אך גם גורמים זדוניים משקיעים ב-AI ומשפרים את שיטות ההתקפה שלהם. המעגל הזה מדגיש עד כמה זה קריטי לגבש אסטרטגיות מיידיות וארוכות טווח להתמודדות עם האיומים האלה, שרק הולכים ומתפתחים.

כל עדכוני ה-IT, תשתית וטכנולוגיה בערוץ הטלגרם של ITtime

איך תיראה מפת הדרכים שלכם?

הבינה המלאכותית העניקה לעברייני סייבר את היכולת לבצע התקפות מתוחכמות יותר, אדפטיביות וקשות לזיהוי. למשל, מתקפות פישינג מבוססות AI, המכונות "פישינג כשירות" (PhaaS), יכולות ליצור הודעות מותאמות אישית ומשכנעות במיוחד, וגם להשתנות לאורך זמן כדי לעקוף את מערכות הגילוי המסורתיות. באותו אופן, תוכנות זדוניות מבוססות AI מסוגלות כיום לשנות אוטונומית את התנהגותן ולהוות מטרה נעה למגנים.

התפתחות מטרידה נוספת היא השימוש בטכנולוגיית דיפ-פייק שנוצרת ב-AI למטרות גניבת זהות והונאה. תוקפים יכולים להתחזות לאנשים ברמת דיוק חסרת תקדים, מה שמאתגר מערכות אימות ומגביר את היקף התקפות ההנדסה החברתית.

מה עושים? ראשית ודאו כי האימוץ של בינה מלאכותית והערכת הסיכונים כלולים באסטרטגיה לשנת 2025. בנו מפת דרכים שמתחשבת בטכנולוגיות מתפתחות כמו AI ומחשוב קוונטי וכן בבחינת ההשפעה הפוטנציאלית שלהן על הפעילות של החברה. שנית, הכניסו דיונים ברמת הנהלה: עודדו שיחות בקרב חברי ההנהלה והדירקטוריון על ההשלכות העתידיות של הבינה על החברה, מתוך מטרה ליצור יעדים ולהתכונן להתמודדות עם טכנולוגיות חדשות.

מאיפה להתחיל ואיך לתעדף?

התגובה למתקפות מבוססות AI דומה ביסודה לכל מתקפת סייבר: לחקור, לבלום, לתקן וללמוד מהאירוע. עם זאת, בשל המהירות והמורכבות של מתקפות AI, חברות יצטרכו לאמץ בסופו של דבר כלים הגנתיים מבוססי AI כדי לזהות איומים בזמן אמת ולהתמודד איתם. בינתיים, חשוב לעקוב ולסווג בנפרד אירועים הקשורים ל-AI ולשתף תובנות באמצעות פורומים של התעשייה, קהילות קוד פתוח ופלטפורמות של מודיעין איומים. גישה זו מאפשרת זיהוי של טקטיקות ייחודיות ל-AI ועדכון מתמשך של מנגנוני ההגנה כדי להתמודד עם האסטרטגיות המתפתחות. בנוסף, חשוב לעדכן מדיניות, לעלות מודעות בקרב עובדים ולהתעדכן במגמות מתקפות AI – אלה יחזקו את החוסן הארגוני בזמן המעבר להגנות מתקדמות.

מבחינת תיעדוף השקעה ב-AI, יש להתחיל בהערכת הצרכים באבטחת הסייבר של הארגון ובזיהוי תחומים שבהם בינה מלאכותית יכולה למלא פערים קריטיים. התקציב משתנה בהתאם לגודל הארגון, לצורכיו ולפרופיל הסיכון שלו. עסקים קטנים ובינוניים יכולים להתחיל עם כלים נגישים כמו EDR (זיהוי ותגובה בתחנות הקצה) או שירותים מנוהלים, המציעים תועלת מיידית ללא צורך במערכות AI יקרות פנימיות; ארגונים בינוניים לרוב משקיעים בפלטפורמות כמו SIEM או כלי מודיעין; וארגונים גדולים נדרשים לפתרונות מותאמים אישית עבור מקרים מתקדמים.

אני ממליצה להתחיל ביישומים בסיכון נמוך כדי להפחית סיכונים ולצבור ביטחון, כמו פיילוטים של סינון ספאם, תקצור טקסטים או אכיפת מדיניות. יישומים אלו מאפשרים לצוותים לשפר תהליכים, למדוד אפקטיביות ולבנות תמיכה לפני המעבר לשימושים קריטיים יותר.

חשוב לזכור שכלי AI צריכים לשמש כמשלימים למומחיות אנושית, כלומר לשפר אותה בקבלת ההחלטות, אבל לא להחליף אותה. יתרה מזאת, פידבק אנושי מתמשך ושיפור מתמיד של הכלים יבטיחו שהם יניבו ערך מרבי בתחומים כמו גילוי איומים בזמן אמת ואוטומציה. ולצד נוסף של הגורם האנושי: הכנסת AI לאסטרטגיית הסייבר דורשת גם מדיניות ברורה, שתבטיח שכלי AI ינוצלו כראוי, והדרכת עובדים שתיצור הגנה רבה יותר ותסייע בזיהוי איומים כמו פישינג או דיפ-פייק.

כאמור, AI הוא לא רק ורדים ושושנים ולהטמעה של הטכנולוגיה בתוך הארגון יש גם סכנות מהותיות. חשוב להבין מהי רמת הסיכון שהארגון יכול לסבול וליצור מסגרת הערכת סיכונים בין-תחומית. מסגרת זו תעריך מקרי שימוש ב-AI לפי קריטריונים כמו אבטחה, מוניטין מותג, סיכונים תפעוליים וציות משפטי. מומלץ להתחיל עם מקרי שימוש בסיכון נמוך, שיאפשרו לצוותים לפתח דפוסים מוצלחים וישמשו כתבניות להרחבת היישום ליישומים מורכבים יותר.

להתכונן גם לטווח הארוך

ארגונים לא צריכים לפתור כל אתגר הקשור בבינה מלאכותית עכשיו, אבל כן להתכונן לעתיד. חשוב לשלב באסטרטגיות אבטחת הסייבר פתרונות AI סקיילביליים, מסגרות להערכת סיכונים צולבת והשקעה מתמשכת במיומנויות ובכלים.

אפשר לחלק את המוכנות הזו לשלושה שלבים:

– פיתוח רשימת מקרי בוחן ויישומים ל-AI. צרו דפוסים ותבניות שניתן להשתמש בהם מחדש, כאלה שישמשו בסיס להרחבה לתחומים מורכבים יותר.

– עקבו אחר איומים מתפתחים. ההאקרים לא נחים וחשוב להיות במעקב אחר התקדמויות טכנולוגיות ב-AI, במחשוב קוונטי ובשימוש הפוטנציאלי בהם על ידי פושעי סייבר.

– התמקדו בגילוי ובתגובה. למרות ההתקדמות, יכולות גילוי ותגובה נותרות קריטיות. AI יכול לשפר תחומים אלו, אך המומחיות האנושית תמיד תהיה חיונית.

הכותבת היא דירקטורית לשירותי אבטחת סייבר בחברת הסייבר הישראלית סיגניה (Sygnia)