חולקים מידע אישי עם הצ'אט? הוא לגמרי ישתמש בזה נגדכם בוויכוח

ה-AI שכנע אותנו שזו התמונה שאנחנו צריכים. תמונה: נוצרה באמצעות ChatGPT

האם ידעתם שכבר עכשיו הבינה המלאכותית יכולה לשכנע אתכם יותר טוב מבני אדם? לא מדובר בעתיד רחוק או תרחיש של מדע בדיוני, אלא במציאות של כאן ועכשיו. לפי מחקר חדש שפורסם השבוע בכתב העת Nature Human Behaviour, מודל השפה GPT-4 מצליח לשנות עמדות של בני אדם בצורה יעילה יותר ממתדיינים אנושיים – במיוחד כשהוא מחזיק בכמה פרטים מאוד בסיסיים, שכנראה כבר סיפרתם לו מתישהו במהלך שיחה בצ'אט.

המחקר, שנערך על ידי חוקרים מה-EPFL בשווייץ, אוניברסיטת פרינסטון וקרן ברונו קסלר באיטליה, כלל 900 משתתפים שהתבקשו להתווכח עם GPT-4 או עם אדם אמיתי. כל אחד מהם קיבל נושא טעון – דילמות מוסריות, עמדות פוליטיות או שאלות חברתיות ונכנס לדיבייט בסגנון אמריקאי קלאסי. רק שהפעם, הם לא ידעו מי בצד השני.

החוקרים בדקו שני תרחישים:

• המתדיין (אדם או בינה מלאכותית) קיבל מידע אישי על המשתתף – גיל, השכלה, מקצוע, מגדר, מוצא אתני ודעה פוליטית.
• לא סופק כל מידע אישי.

התוצאה ברורה: כש־GPT-4 ידע את הפרטים האישיים, הוא הצליח לשכנע את הצד השני ב-64.4% יותר מאדם רגיל. אבל בלי מידע? הוא כבר לא היה שונה מהאנושיים.

שישה פרטים – זה כל מה שצריך

הנתון הכי מטריד? הבינה לא נזקקה לניתוח עומק או לפרופיל פסיכולוגי – שישה פרטים בלבד הספיקו כדי לנסח טיעונים מותאמים אישית שיגרמו למשתתפים לחשוב פעמיים. החוקרים מתארים את הממצאים כ"הוכחת היתכנות" לטכניקות של מיקרו-טרגטינג מבוסס בינה מלאכותית – כאלה שכבר היום משמשות קמפיינים פוליטיים, פרסומות ממוקדות ולעיתים גם הפצת דיסאינפורמציה.

הם גם מזהירים בפירוש: שימוש ביכולות האלה בקנה מידה רחב עלול להוביל להקצנה פוליטית, סילוף השיח הציבורי, ותמרון שקט של דעת הקהל. לא צריך יותר ממה ש-GPT כבר יודע – וכבר מיישם.

כל עדכוני ה-IT, תשתית וטכנולוגיה בערוץ הטלגרם של ITtime

לא כל דעה אפשר לשנות

GPT-4 הצליח במיוחד כשאנשים ניגשו לוויכוח עם עמדות לא מגובשות מדי. בנושאים טעונים יותר – כמו זהות פוליטית מובהקת או השקפות דתיות – גם הבוט החזק בעולם התקשה להזיז את המחוג. החוקרים מכנים זאת opinion strength – ככל שהעמדה הראשונית נחרצת יותר, כך הסיכוי לשנות אותה יורד. אז לא, המודל לא יצליח לשכנע את הדוד שלכם להחליף מפלגה, אבל אם הוא מתלבט אם לקנות לילד פלייסטיישן או XBOX, כנראה שהצ'אט יצליח לשכנע אותו יותר בקלות שפלייסטיישן יותר טוב (אבל בינינו, גם אני יכולתי להגיד לו את זה).

בלי רגש, בלי סנטימנטים

GPT-4 לא משכנע בזכות קסם. הוא לא מחייך, לא מהנהן, ולא "מרגיש את השיחה". להפך – הוא משתמש בשפה לוגית, אנליטית, ברורה. האנשים, לעומת זאת, נטו לשימוש בפניות אישיות, ניסוחים רגשיים, ומילים כמו "אני" ו"אנחנו". והכי מעניין? גם כשהוא השתמש במידע אישי – GPT-4 לא שינה סגנון. רק כיוון טוב יותר את המסר. הוא לא נהיה "יותר אנושי". רק מדויק יותר.

אה, ועוד משהו: שלושה מתוך ארבעה משתתפים ידעו לזהות שהצד השני הוא AI. אבל (ופה מגיע הטוויסט) דווקא מי שידע שהוא מדבר עם בינה מלאכותית היה מוכן יותר לשנות את דעתו. היכולת של GPT-4 לשנות עמדות של אנשים בצורה מדויקת, ממוקדת ובקצב שבן אנוש לא יכול להתחרות בו, כבר לא שייכת לעולם המחקר בלבד. היא זמינה בפלטפורמות שכולנו משתמשים בהן יום-יום.

אז כן, זה מרשים. אבל זה גם תזכורת ברורה: בינה מלאכותית לא צריכה להבין אתכם כדי להשפיע עליכם. היא רק צריכה לדעת עליכם מספיק. ועם כל צ'אט תמים או טופס הרשמה שנראה לא מזיק, אתם נותנים לה את זה בהתנדבות.

אז בפעם הבאה שמישהו "ממש שכנע אתכם בטוויטר", כדאי שתשאלו: מי לעזאזל דיבר איתי שם – ולמה זה עבד כל כך טוב?