ארגונים רק מוסיפים סוכני AI, אבל הלקוחות לא מעוניינים בזה
יותר ממחצית מהחברות כבר משלבות אותם מול לקוחות, אבל רק 22% מהמשתמשים מרגישים בנוח לשתף מידע אישי עם הסוכנים
תמונה: dreamstime
בעוד חברות דוהרות קדימה ומשלבות סוכני AI כמעט בכל תהליך מול לקוחות, המשתמשים עצמם נשארים חשדניים: דוח חדש מגלה שרק 22% מהם מרגישים בנוח לשתף מידע אישי עם צ'אטבוטים ו-62% בטוחים שקל יותר לעבוד עליהם מאשר על נציג אנושי.
Salt Security, שהפועלת בתחום אבטחת APIs, טוענת כי הבעיה לא טמונה דווקא בסוכנים עצמם אלא בחיבורים שמניעים אותם. APIs מאפשרים לסוכני AI למשוך מידע, להריץ פעולות ולתקשר בין מערכות שונות, אבל כל חיבור כזה הוא גם נקודת תורפה פוטנציאלית. לדברי החברה, אם ארגונים לא ידעו אילו APIs פועלים ולא יאבטחו אותם כמו שצריך, המערכות יישארו חשופות לפרצות ולתקיפות.
הפער הופך למוחשי אף יותר כשמסתכלים על המספרים מהצד של הארגונים: יותר ממחצית (53%) מהחברות שכבר משתמשות ב-Agentic AI עושות זאת בתהליכי עבודה מול לקוחות או מתכננות לעשות זאת בקרוב. כמעט מחצית (48%) מפעילות בין 6 ל-20 סוגי סוכנים שונים, ו-19% כבר משתמשות ב-21 עד 50. 37% מהארגונים מדווחים על טווח פעילות רחב של עד 100 סוכנים במערכת, וכמעט חמישית (18%) מנהלים בין 501 ל-1000 סוכנים במקביל.
כל עדכוני ה-IT, תשתית וטכנולוגיה בערוץ הטלגרם של ITtime
התרחבות לצד אבטחה לקויה
על פי הנתונים שנחשפו בדוח, רק שליש מהארגונים מבצעים בדיקות יומיות לסיכוני API, בעוד ש-7% עושים זאת אחת לחודש וזה במקרה הטוב. 37% בלבד משתמשים בפתרונות ייעודיים לאבטחת APIs, ורק לאותו שיעור יש צוות פרטיות מידע שמפקח על יוזמות ה-AI. כלומר, רוב החברות מתקדמות מהר עם השימוש, אבל משאירות את האבטחה מאחור.
בקרב המשתמשים שהשיבו על הדוח, המצב לא פחות מרתיע: 64% דיווחו שהם נתקלו השנה בצ’אטבוטים מבוססי AI במספרים גבוהים יותר מאשר בשנה הקודמת ו-80% מהם הודו כי שיתפו מידע אישי באינטראקציות האלה.
עם זאת, האמון שהמשתמשים נותנים בצ'אטבוטים הוא לא באמת גבוה כפי שיכול להידמות במבט ראשון. רק 22% מוכנים לשתף במידע האישי שלהם מרצונם עם צ'אטבוט, לעומת 37% שמרגישים בנוח לשתף במידע בשיחה טלפונית ו-54% שמוכנים לעשות זאת פנים אל פנים. 62% מאמינים שסוכני AI קלים יותר להטעיה, והתחושה הזו רק מחזקת את חוסר הנכונות לשתף פעולה.
"סוכני AI משנים את איך שעסקים פועלים, אבל הצרכנים משדרים חוסר אמון ברור", אמר מייקל קאלהאן, סמנכ"ל שיווק ב-Salt Security, "ארגונים מתמקדים בבאזז סביב AI ושוכחים שכל זה יושב על APIs. אם לא ינהלו את העניין הזה נכון, הפער באמון רק יגדל, והסיכונים יהפכו לבעיה אמיתית. ככל שסוכני AI הופכים לאוטונומיים יותר ומשתלבים עמוק בעסק, כך חייבים לאבטח את ה־APIs שמניעים אותם. אם לא נעשה את זה עכשיו, מחר כבר יהיה מאוחר מדי".
