דוח רשמי בממשל טראמפ נכתב על ידי ChatGPT – וכלל מקורות בדויים

דונלד טראמפ. צילום: dreamstime

השימוש בבינה מלאכותית, ובפרט בבינה מלאכותית יוצרת, הפך כבר מזמן לנחלת הכלל. מה שהתחיל בשיחות קלילות עם צ’אטבוטים התפתח במהרה ליצירת שירים, מענה על שאלות, ואחר כך גם ליצירת תמונות, קוד, ואפילו איומי סייבר. כיום מדובר בתעשייה שלמה שידה בכל: סוכני AI שמבצעים פעולות מורכבות, מערכות חיזוי, אוטומציה של תהליכים והרשימה עוד ארוכה.

הבינה המלאכותית יצאה מזמן מגבולות משרדי ההייטק והפכה להיות כלי שימושי בכל מקום: משרדי פרסום עושים בה שימוש כדי לייצר פרסומות, תלמידים משתמשים בה כדי להכין שיעורי בית ורופאים נעזרים בה כדי לגלות אבחנות של מטופלים. השימוש ב-AI נעשה כל כך פשוט, שלפעמים ניתן לשכוח שההבדל בין "בינה מלאכותית יוצרת" ל"בינה מלאכותית ממציאה", הוא דק. ואולי אפילו דק מאוד.

כל עדכוני ה-IT, תשתית וטכנולוגיה בערוץ הטלגרם של ITtime

בחודש שעבר שופט בית משפט השלום רתח מזעם כשעורך דין מטעם המשטרה הגיש מסמך שנכתב על ידי בינה מלאכותית שהמציאה חוקים שלא קיימים, וכבר לפני שנתיים עורך דין אחר נתפס בשימוש ב-ChaGPT בעת הגשת תביעה, לאחר שהצ'אט המציא תיקי עבר שמעולם לא נידונו.

אבל סיפור אחד שקרה לאחרונה ממחיש עד כמה הרגולציה על שימוש ב-AI תקועה מאחור, בזמן שהטכנולוגיה מתקדמת, וזה הסיפור מאחורי רפורמת הבריאות של רוברט קנדי ג'וניור, מזכיר הבריאות האמריקאי.

לינקים שבורים ומקורות מידע לא קיימים

לאחרונה הגיש השר, הידוע בתמיכתו ב"מהפכת ה-AI", דוח תחת הכותרת "Make America Healthy Again" או בקיצור MAHA, שמטרתו להבין מה עומד מאחורי הירידה בתוחלת החיים בארצות הברית. הדוח, באורך של 72 עמודים, עורר סערה לאחר שנטען כי נכתב על ידי ChatGPT, ומכיל לא מעט דקויות, או יותר נכון – המצאות.

על פי תחקיר של אתר NOTUS, הדוח מלא בעשרות סימנים לשימוש בבינה מלאכותית: לינקים שבורים, רפרנסים מסולפים, הפניות שלא קיימות, ובמקרים מסוימים גם מקורות בדויים לחלוטין. לפי האתר, שבעה מהמקורות שצוטטו כלל לא קיימים.

בתחקיר נוסף שנערך על ידי הוושינגטון פוסט, התגלה כי 37 הפניות (מתוך 522 בדוח) חזרו על עצמן. באותו התחקיר גם התגלה כי חלק מהקישורים אליהם הפנה הדוח מכילים את התגית " oaicite", תגית שמסמנת שמקור המידע נוצר על ידי מודל של OpenAI, מה שמעיד על השימוש ב-ChatGPT עבור כתיבת הדוח.

ההפניות הוסרו – התוכן לא השתנה

הטענות על שימוש ב-AI לא חמקו מעיני הממשל בארה"ב שביום חמישי האחרון שלח את דוברת הבית הלבן קרולין לוויט להפיג את החששות, אך בדבריה היא תיארה את הטעויות בדוח כ"בעיות עיצוב" בלבד וטענה כי הוא "מבוסס על מדע שמעולם לא קיבל הכרה מהממשל הפדרלי".

הוושינגטון פוסט ציין כי הדוח שפורסם עודכן ביום חמישי, וכמה מהאזכורים עם תגיות "oaicite" הוסרו או הוחלפו במקורות חלופיים. בהצהרה נוספת לתקשורת, הפעם של דובר משרד הבריאות האמריקאי, אנדרו ניקסון, אמר כי "תוקנו טעויות קלות בהפניות ובעיצוב אך תוכן הדוח נותר בעינו, הערכה היסטורית ופורצת דרך מצד הממשל הפדרלי להבנת מגפת המחלות הכרוניות שפוגעת בילדי האומה".

קשה להתעלם מהפיתוי שבשימוש בבינה מלאכותית – היא זמינה, חכמה, מהירה, ובעיקר נראית כמו פתרון קסם לעולם עמוס בעיות, אבל כשגורמים רשמיים שמשפיעים על חיינו משתמשים בה בחוסר אחריות צריך לעצור ולהבין שרגולציה על בינה מלאכותית לא יכולה להישאר רק בתחום של טכנולוגיה. היא חייבת לכלול גם משפטנים, אנשי חינוך, אתיקה ובריאות הציבור ולבוא בזמן אמת, לא בדיעבד. אם הגענו לשלב שבו רפורמות שלמות נכתבות בשיתוף AI, מבלי שאיש במערכת טורח לבדוק את המקורות, אז לא מדובר עוד בדיון עקרוני אלא בצורך ממשי.