בגרטנר ממליצים שתחסמו אתמול דפדפני AI בארגון

דוח חדש של ענקית המחקר והייעוץ Gartner כולל המלצה גורפת למנהלי מערכות מידע (CIOs) ומנהלי אבטחה (CISOs): חיסמו את הגישה לדפדפני AI בארגונים שלכם, ואל תאפשרו את השימוש בהם כלל.

סוכנים כפולים?

האזהרה של גרטנר מתמקדת בדפדפני ה-AI שהושקו בשנה האחרונה בהם Atlas של OpenAI, דפדפן Comet של פרפלקסיטי, Dia של The Browser Company (חלק מ-Atlassian) ועוד. בניגוד לתוספים פשוטים או צ'אטבוטים בסרגל צד, הדפדפנים האלו משלבים יכולות AI עמוקות שיכולות "להבין" את תוכן העמוד, לבצע פעולות בשם המשתמש ואפילו לנווט עצמאית ולבצע פעולות כמו רכישה. לפי גרטנר, בדיוק כאן טמונה הבעיה: הגדרות ברירת המחדל של הכלים הללו מתעדפות כמעט תמיד את חוויית המשתמש (UX) על פני אבטחה.

המשמעות הטכנית היא שמידע רגיש ביותר – החל מהיסטוריית גלישה, דרך תוכן של טאבים פתוחים ועד לנתונים פעילים בתוך אפליקציות ארגוניות – נשלח לעיבוד בשרתים החיצוניים של חברת ה-AI, וללא ניהול מרכזי קפדני והקשחות אבטחה (שכרגע כמעט אינן קיימות), המידע הזה חשוף לדליפה.

הזרקת פרומפטים

אבל לא רק ענייני פרטיות או סודות מסחריים. האנליסטים של גרטנר מזהירים מתרחישי אימים של "הזרקת פרומפטים עקיפה" (Indirect Prompt Injection). בתרחיש כזה, אתר זדוני יכול להכיל טקסט מוסתר (לעין האנושית כמובן, סוכן ה-AI רואה אותה ומתייחס אליו כמו גדול) – טקסט שיגרום לסוכן ה-AI בדפדפן לבצע פעולות זדוניות בלי ידיעת המשתמש, כמו ניווט לאתרי פישינג, מסירת הרשאות או הורדת קוד זדוני. באופן משעשע וקצת רקורסיבי, הדוח מציין סיכון נוסף: "עצלנות משתמשים". החשש הוא שהמשתמשים הארגוניים ייעזרו בסוכני ה-AI דווקא כדי לעקוף את נוהלי האבטחה עצמם.

בכל מקרה, השורה התחתונה של גרטנר ברורה: עד שהטכנולוגיה תתבגר וניתן יהיה לייצר הפרדה מוחלטת וביצוע הערכות סיכונים מקיפות – הדפדפנים הללו צריכים להישאר מחוץ לרשת הארגונית.