רוצים אייג'נט? תבדקו קודם אם המודל עובד בכלל
זה לא עובד ככהכל הארגונים רוצים עכשיו סוכנים, אבל רובם מדלגים על בדיקה חשובה שיכולה לחסוך הרבה
נוצר באמצעות AI
זה לא עובד ככה: הבקשה ממני התחילה כמו רבות אחרות: "אנחנו רוצים לבנות סוכן חכם, מבוסס בינה מלאכותית, שיידע לשלוף מסמכים, לבצע השוואה ביניהם, לתת מסקנות ולהמליץ בזמן אמת".
הרעיון מעולה.
הכוונה טכנולוגית.
הצוות מגויס.
יש אפיון, יש תכנון, יש שכבת אבטחה, יש ספק.
רק דבר אחד לא עשו קודם: בדקו אם המודל בכלל יודע לפתור את המשימה.
בינה זה לא קסם – זה כלי עם מגבלות, והמודל שקיבלו מהלקוח היה מאובטח, עטוף בקוד, מחובר לבסיסי נתונים, אבל הוא לא הצליח לספק תשובות טובות. למה? כי גם המודל הכי מתקדם לא תמיד יודע לעשות מה שמצפים ממנו.
אז התחילו להחליף ספק, פיתחו גרסה חדשה, שינו מודל ואז קראו ליועץ אחר. אבל היה צריך לעשות צעד פשוט יותר: לקחת את אותה משימה, להשחיר נתונים רגישים ולהעלות אותה כמו שהיא למודל פתוח (GPT, Claude, Mistral, ודומיהם) רק כדי לבדוק: האם המודל בכלל מסוגל לבצע את זה?
כשהצעתי את הפתרון הפשוט הזה ללקוח, הוא חשב שאני לא רוצה את העבודה. נאלצתי להסביר לו שבמשימות שהמודלים החכמים ברשת לא יודעים לבצע – שום סוכן לא יעזור.
בואו נבהיר משהו:
לא כל מודל יודע הכל.
לא כל מודל יודע להשוות בין גרסאות של חוזה, לא כל מודל יודע לנתח קובץ מורכב ולסכם אותו, לא כל מודל יודע לשלוף את הפסקה הרלוונטית מתוך 500 עמודים. וחמור מזה – חלק מהמודלים פשוט לא יודעים להגיד "אני לא יודע" אז הם ממציאים. מנחשים. או נותנים תשובה חלקית שנשמעת משכנעת.
כל עדכוני ה-IT, תשתית וטכנולוגיה בערוץ הטלגרם של ITtime
איפה הטעות הארגונית?
הטעות הזו מאפיינת ארגונים רבים – במקום לבדוק קודם אם המשימה מתאימה למודל, הולכים ישר לפיתוח.
ארגונים עוטפים את הבעיה בממשק, דשבורד, תשתית ו־UX אבל שוכחים לבדוק את השאלה הכי בסיסית:
האם בכלל יש לי מודל שיכול לפתור את זה בלי עטיפה?
איך פותרים את זה? קחו את המשימה, השחירו מידע רגיש ובדקו אותה ישירות מול המודל בצורה הבסיסית ביותר.
אם קיבלתם תשובה טובה – שווה לבנות עליה; אם לא – אל תשקיעו בלייפות מה שלא עובד.
ועוד עצה חשובה: היזהרו מאנשי מכירות שאומרים לכם ש־AI פותר הכל ותזכרו שבינה מלאכותית היא לא קסם – היא רק שותף. השותף הזה, כמו כל אחד אחר, צריך שתבדקו מה הוא יודע לעשות לפני שאתם שמים עליו מערכת שלמה.
לא כל בעיה מתאימה לבינה, ולא כל בינה מתאימה לבעיה שלכם.
ליאור אברהם הוא יועץ ומלווה חברות וארגונים בהטמעת פתרונות AI, הרצאות וסדנאות ומוביל את ערוץ היוטיוב – Lior ai. בנוסף הוא מחבר הספר מדריך מעשי לשילוב AI בארגונים הניתן בהנחה של 20% לקוראי ITtime.
