"הלקוחות גילו שהנציגה היא בינה מלאכותית, והאמון קרס"

נוצר באמצעות AI

זה לא עובד ככה: הצ'אט היה מהיר, יעיל, רגיש. התשובות היו מדויקות, מנוסחות בקפידה, עם טון אמפתי, כישורי שכנוע, אפילו קצת הומור והכל בשפה הארגונית. לקוחות סיימו שיחות עם חיוך – חלקם אף שלחו מייל תודה על "השירות המעולה של הנציגה דנה".

אבל אז לקוח שאל שאלה פשוטה: "את אמיתית?".

והבוט ענה ביושר: "אני מערכת מבוססת בינה מלאכותית, כאן כדי לעזור".

תוך שעות התמונה התהפכה. אותו לקוח העלה צילום מסך ברשת חברתית והכל השתנה. לקוחות אחרים הרגישו מרומים, והתגובות לא איחרו להגיע: "מה עוד אתם מסתירים?", "למה שיקרתם?", "איך אפשר לדעת שלא מקבל אותי רובוט גם במוקד?".

כל עדכוני ה-IT, תשתית וטכנולוגיה בערוץ הטלגרם של ITtime

הבינה שהתחפשה

הבעיה לא הייתה בבינה. להיפך, היא תפקדה מעולה. הבעיה הייתה התחפושת – השם של הבוט היה שם של אדם, התמונה – תמונת נציגה אנושית והשיחה – ללא גילוי נאות. לכן כשהאמת נחשפה נוצר שבר באמון.

לא מדובר בטעות טכנית, אלא בכשל ערכי: הארגון בחר להטמיע מערכת AI בצ'אט שירות לקוחות מבלי ליידע את הלקוחות. לא בהתחלה, לא באמצע, לא בסיום.

הכוונה כנראה הייתה טובה: לא להרתיע, לא לבלבל, לתת זמינות מלאה, אבל בפועל המסר שנקלט היה ההפך הגמור: "אנחנו לא סומכים עליכם עם המידע הזה, אז העדפנו שלא תדעו", ובעידן שבו כל אחד יכול לזהות בוט תוך שנייה, זה הימור מסוכן.

מה ניתן ללמוד מזה?

– לקוחות לא מתנגדים ל-AI – הם מתנגדים להסתרה שהם מדברים עם AI.
– שקיפות יוצרת אמון – גם אם הבוט לא מושלם.
– גילוי נאות לא פוגע בחוויית השירות – הוא מחזק אותה.

תיקון פשוט מאוד היה פשוט לכתוב:  ״שלום, אני דנה – מערכת מבוססת בינה מלאכותית שתעזור לך כאן. ואם תרצה נציג אנושי אוכל להפנות אותך". וזה מספיק. באמת. כי גם בעידן של טכנולוגיה חכמה, לקוחות מחפשים משהו אחד פשוט: להרגיש שלא עובדים עליהם.

בינה מלאכותית היא לא הבעיה. הסתרה – כן, ומי שלא לומד את ההבדל ימצא את עצמו עם מערכת מבריקה ולקוחות שלא מאמינים לה.

ליאור אברהם הוא יועץ ומלווה חברות וארגונים בהטמעת פתרונות AI, הרצאות וסדנאות ומוביל את ערוץ היוטיוב – Lior ai. בנוסף הוא מחבר הספר מדריך מעשי לשילוב AI בארגונים הניתן בהנחה של 20% לקוראי ITtime.