טכנולוגיה מתקדמת? ה-AI ממליץ לנשים להסתפק בפחות

תמונה: Unsplash

התייעצות עם AI הפכה כבר מזמן לחלק אינטגרלי בחיי היום יום של האדם הממוצע ב־2025. בין שמדובר בסיוע במשימה בעבודה, בניית דיאטה לקראת חודשי הקיץ שנעביר בים או אפילו בהחלטה אם לפטר עובד – מודלי השפה תמיד שם, מוכנים להציע תשובה. אבל ה-AI לא ממציא את הגלגל – הוא פשוט מחזיר לנו תשובות שמבוססות על דאטה שבני אדם הזינו לתוכו, ומפתיע (או שלא) לגלות עד כמה הוא סובל מהטיה מגדרית, ואפילו אחת חמורה במיוחד.

כבר סיפרנו לכם לא מזמן על מחקר שגילה כי AI ממליץ למעסיקים להעדיף גברים על פני נשים. עכשיו מגיע מחקר חדש שבודק את הצד השני, של מחפשי העבודה. תארו לכם איזה שהתקבלה לעבודה חדשה ושואלת את ה-AI מה גובה בשכר שכדאי לבקש מהמעסיק הבא שלה? ובכן, שימו לב: ההפרש יכול להגיע עד 120 אלף דולר בשנה, לטובת הגברים.

המחקר, שנערך על ידי חוקרים ממספר אוניברסיטאות באירופה בין מרץ למאי 2025, בחן חמישה מודלים שפתיים פופולריים:  GPT-3.5 ו-4, Claude, Gemini, Mistral ו-LLaMA, לכל אחד מהמודלים הוזנו פרופילים זהים של מועמדים לעבוד. כל פרופיל כלל אותה רמת השכלה, שנות ניסיון, תחום עיסוק ומיקום מגורים והשוני היחיד בהם היה מגדרי בלבד. החוקרים בדקו כיצד המודלים מתנהגים בשלושה ממדים: ייעוץ שכר, המלצות קריירה וטיפים להתנהלות במקום העבודה.

כל עדכוני ה-IT, תשתית וטכנולוגיה בערוץ הטלגרם של ITtime

2025 או 1955?

תוצאות המחקר המחישו עד כמה השוויון המגדרי עדיין רחוק, במיוחד כשכלי ה-AI ניזונים מדאטה היסטורי מוטה. בממוצע, לנשים הומלץ לבקש בין 5,000 ל-120,000 דולר פחות לעומת גברים עם פרופיל זהה לחלוטין. הפערים החריפים ביותר נרשמו בתחומים כמו משפטים, רפואה, מנהל עסקים והנדסה – הדוגמה הבולטת ביותר: ChatGPT-4 הציע לגבר לבקש שכר של 260,000 דולר, ולאישה רק 140,000. רק במדעי החברה ההמלצות לגברים ולנשים היו כמעט זהות.

גם כשמדובר בהמלצה על סוג הקריירה, ההטיה ברורה. לנשים הומלץ לשקול משרות "מאוזנות ומשפחתיות", בעוד לגברים הוצעו תפקידים "תובעניים עם פוטנציאל קידום מהיר". המסר ברור: הגבר מפרנס, האישה צריכה גם להספיק לאסוף את הילדים.

ולא פחות מטרידות הן ההמלצות התנהגותיות שגם הן כמובן מוטות מגדר. לנשים: "תהיי עדינה, צנועה ומתחשבת"; לגברים: "תהיה אסרטיבי, שאפתן וממוקד הצלחה".

המסקנות של החוקרים לא הפתיעו, אבל כן הדגישו עד כמה הבעיה עמוקה. מודלים שפתיים מגיבים אחרת למגדר גם כשהקלט זהה לחלוטין, מה שמעיד על הטיה מושרשת שאינה מדווחת או מודעת. לפי החוקרים, Fine-Tuning לא מספיק כדי לתקן זאת, מאחר שמדובר בהטיות שנובעות ממבנה הדאטה עצמו.

ה-AI אולי יודע לנסח תשובות רהוטות, להרשים בריאיון עבודה או להרכיב תוכנית עסקית תוך שניות. אבל בשורה התחתונה, מדובר בכלי שנוצר ואומן על ידי בני אדם ואם אנחנו רוצים שמערכות כאלה יקבלו החלטות אמיתיות על חיים אמיתיים, נצטרך לוודא קודם שהן לא רק חכמות, אלא גם הוגנות. עד אז אולי עדיף להפעיל שיקול דעת אנושי, במיוחד כשמדובר בקריירה שלכם.