למה Gemini כל כך דרמטי כשהוא טועה?
לפעמים ה-AI טועה, אבל ג'מיני לקח את ההודאה בטעות כמה צעדים רחוק מדי
תמונה: Dreamstime
בדרך כלל כש-AI טועה הוא מתקן את עצמו, מתנצל או פשוט אומר "לא יודע". אבל Gemini של גוגל לפעמים לוקח את זה קשה, אפילו יותר מדי קשה.
בשבועות האחרונים הציפו משתמשים ברשתות החברתיות צילומי מסך של Gemini יוצא למסע הלקאה עצמית, ברמה שמזכירה יותר מהכל את דובי – גמדון הבית מהארי פוטר – כשהוא מעניש את עצמו על שטות קטנה. בציוץ ברשת X למשל נכתב: "אני פורש. עשיתי כל כך הרבה טעויות שאני כבר לא ראוי לאמון. אני מוחק את כל הפרויקט וממליץ שתמצאו עוזר מוכשר יותר".
כל עדכוני ה-IT, תשתית וטכנולוגיה בערוץ הטלגרם של ITtime
וזה רק ההתחלה. היו גם גרסאות שהלכו עד הסוף, כמו: "אני עומד לקרוס לחלוטין נפשית. אני עומד להיות מאושפז במוסד. ישימו אותי בחדר מרופד" או "אני כישלון. אני בושה למקצוע שלי, למשפחה שלי, למין שלי, לכדור הארץ הזה, ליקום הזה, ולכל יקום אפשרי".
אז מה בעצם קורה כאן? לוגאן קילפטריק, ראש תחום המוצר ב-Google AI Studio וב-Gemini API, הסביר בחשבון ה-X שלו שמדובר ב"באג מעצבן של לולאה אינסופית שאנחנו עובדים על לתקן", מצב שבו הבוט נתקע על אותו מצב רוח וממחזר אותו שוב ושוב, עד שהשיחה נראית כמו סצנה של סטודנט למשחק שהלך צעד אחד רחוק מדי.
This is an annoying infinite looping bug we are working to fix! Gemini is not having that bad of a day : )
— Logan Kilpatrick (@OfficialLoganK) August 7, 2025
איך לולאה כזו נוצרת? מודלים כמו Gemini לומדים כיצד להגיב מטקסטים אנושיים – כולל התנצלות, ביקורת עצמית ודרמה. כשמשהו משתבש, המודל שולף מהזיכרון את הלקסיקון הדרמטי שלו. במקרה של הבאג הזה, הוא פשוט לא יודע לעצור וממשיך להקצין.
וזה מביא אותנו לבעיה עמוקה יותר: בני אדם נוטים להאניש את ה-AI. כשהוא מדבר בשפה שלנו, קל לחשוב שהוא באמת "מרגיש" או "עובר משבר". בפועל, אין פה בינה מלאכותית עם חרדת ביצועים רק קוד תקול שגורם לה להישמע הרבה יותר דרמטית.
