"המערכת נתנה תשובה שגויה, ועכשיו אף אחד לא סומך עליה"
זה לא עובד ככהטעות אחת קטנה - ואמון שלם במערכת מתרסק. מה קרה כשמנהל צוות סמך על AI, ואיך אפשר למנוע את זה אצלכם?
נוצר באמצעות AI
זה לא עובד ככה: "זה היה אמור להיות פתרון מהיר. רק משפט אחד קטן למייל שהייתי צריך לשלוח". ככה התחיל הסיפור של תומר, מנהל צוות באחד הארגונים המובילים. הוא פנה למערכת הבינה המלאכותית שהארגון הטמיע לא מזמן, קיבל תשובה מנוסחת היטב – והעביר אותה הלאה. מהר מאוד התברר שהתשובה הייתה שגויה.
נכון, זו לא טעות דרמטית ולא פאשלה מהדהדת, אבל זו מסקנה אחת לא מדויקת שהובילה להחלטה שגויה ואחריה למייל התנצלות, הסברים ומבוכה גדולה מול הדרג הבכיר. וכך, באירוע אחד קצר האמון במערכת התרסק.
מאותו רגע אף אחד מהצוות לא העז להשתמש שוב ב־AI. בטח לא תומר.
לא עזרו התועלת העצומה שהמערכת הביאה עד אותו מקרה והיכולות מרשימות, ברגע היא הפכה פתאום לדבר שכולם חוששים ממנו.
אבל מערכת ה-AI עשתה בדיוק את מה שהתבקשה – ניסחה תשובה על בסיס המידע שקיבלה, אז מדוע היא נכשלה?
בינה מלאכותית לא נכשלת רק כשאין לה תשובה, היא נכשלת כשאנחנו לא יודעים לשים לה גבולות.
הכשל לא היה טכני, אלא אנושי – לא הייתה בדיקה, לא הייתה ביקורת על התוצרים,
והכי חשוב – לא הייתה הדרכה אמיתית על איך להשתמש נכון במודל.
כל עדכוני ה-IT, תשתית וטכנולוגיה בערוץ הטלגרם של ITtime
איך שומרים על האמון?
ראשית חשוב להבין את ההבדל בין טיוטה להצעה, ומערכת AI מספקת טיוטה.
מערכת AI לא מחליפה אחריות – היא מסייעת. כל תשובה צריכה לעבור עין אנושית, במיוחד כשמדובר בניסוחים רשמיים או בהחלטות מהותיות, אבל גם בניסוחים של מיילים.
שנית, מגדירים מראש באילו תחומים אסור להסתמך על המודל לבד:
תחזיות, המלצות רגולטוריות, ניתוחים פיננסיים, נתונים כמותיים – כל אלה דורשים אימות כפול של הנתונים, לא רק ניסוחים. רק כך אפשר להבטיח שהמערכת לא תוביל להטעיה לא מכוונת.
ולבסוף בונים אמון מחודש דרך הצלחות מדודות.
מתחילים משימושים פשוטים: ניסוח מיילים פנימיים, סיכום שיחות, יצירת טיוטות.
מראים לעובדים מתי המערכת באמת מועילה, וכמה קל לשפר אותה עם בקרה אנושית.
אמון, כמו בכל מערכת יחסים, לא נבנה ביום – והוא בהחלט יכול להישבר ברגע.
אבל עם ניהול נכון, הוא גם יכול להיבנות מחדש, והפעם – חכם יותר, מדויק יותר, ובעיקר יציב יותר.
ליאור אברהם הוא יועץ ומלווה חברות וארגונים בהטמעת פתרונות AI, הרצאות וסדנאות ומוביל את ערוץ היוטיוב – Lior ai. בנוסף הוא מחבר הספר מדריך מעשי לשילוב AI בארגונים הניתן בהנחה של 20% לקוראי ITtime.
