עלייה של מאות אחוזים בשנה: קמפיינים של דיפ פייק צוברים פופולריות ברשתות

תמונה: נוצרה באמצעות AI

בחודש שעבר שמו של השף מושיק רוט עלה לכותרות לאחר שנדמה היה שהוא מקדם קמפיין לכדורים מיוחדים לזריקות הרזיה. מהר מאוד התגלה כי הקשר היחיד בין רוט לנושא היה ניצול דמותו המוכרת ושימוש בכלי AI כדי לייצר את הקמפיין וכי לשף לא היה מעולם קשר לאותה חברה. רוט לא לבד: בקיץ פורסם כי דמויותיהן של הזמרת ושורדת הנובה יובל רפאל והדוגמנית יעל שלביה נוצלו לקמפיין דיפ פייק, שנועד לשכנע את הציבור להשקיע במניות של חברה מסוימת, וכמות הסלבריטאים שמגלים בוקר אחד כי הם חלק מהונאות AI מתוחכמות רק הולכת וגדלה.

בשנים האחרונות, עם ריבוי כלי ה-AI והאפשרות לייצר בקלות קמפיינים "בהובלת סלבס", תופעת הדיפ פייק הפכה להיות אחת הפופולריות ביותר בקרב תוקפים שמנסים, כמו תמיד, לגנוב כמה שיותר כסף מאנשים תמימים. מי שחקרה את התופעה בשנים האחרונות היא חברת אבטחת המידע ESET, שמפרסמת היום (ד') נתונים חדשים על היקף ההונאות הפיננסיות מבוססות AI שהפכו לעניין שבשגרה ברשתות החברתיות.

על פי החברה, במחצית השנייה של 2024 נרשמה עלייה של 335% בהיקף מתקפות Nomani, המשלבות פרסומות מזויפות, אתרי פישינג ותכנים ממוקדים באמצעות AI. הקמפיינים כללו שימוש בחשבונות גנובים של בעלי עוקבים רבים, תכנים מותאמים לאזורים גיאוגרפיים שונים ותשתיות אחידות להפצת הודעות והפניות.

על פי נתונים שפרסם לאחרונה ה-FBI, הונאות ההשקעה האלו הפכו למכרה זהב עבור תוקפי סייבר, עם נזק מוערך של כ-6.6 מיליארד דולר – וזה הסכום רק מדיווחים רשמיים בלבד. אגב, מדובר בסכום הגבוה בהרבה מסוגי הונאה אחרים, דוגמת מתקפות דואר אלקטרוני עסקי (BEC), שגרמו להפסדים בהיקף של 2.8 מיליארד דולר.

איך פועלות ההונאות?

ברוב המקרים, הקמפיין יתחיל בפרסום מודעה ממומנת בפייסבוק, אינסטגרם, יוטיוב או X (לשעבר טוויטר). אם גם לכם בולטת בעין העובדה שטיקטוק חסרה ברשימה, זה כנראה משום שמדובר ברשת חברתית של הדור הצעיר יותר, שבדרך כלל לא מחזיק כרטיסי אשראי ולכן מטורגט בקמפיינים מסוג שונה.

המודעות מתחזות לבנקים, גופי חדשות או חברות השקעה ולא פעם מציגות סרטוני דיפ פייק של אנשי ציבור ומפורסמים. על אף שהסימנים להונאה ברורים לכאורה, מרבית האנשים נוטים שלא לייחס מורכבות רבה מדי לפרסומות שהם רואים ברשת, ובמציאות כלכלית לוחצת ההבטחות לרווח מהיר הופך למפתה ומרגש. בקרב הדור המבוגר יותר, חוסר מודעות לטכנולוגיות חדשות כמו דיפ פייקים, ירידה בריכוז בעת גלישה בסלולר והעובדה שמודעות מזויפות רבות מופיעות מתוך חשבונות לגיטימיים ומדורגות גבוה במנועי החיפוש – הופכות את ההונאה לאמינה יותר.

"הדרך היעילה ביותר להישמר היא בזיהוי סימני האזהרה: מודעות נוצצות שמציעות תשואות גבוהות מדי, הבטחות ל-ROI בטוח, עדויות מזויפות של ידוענים, סרטונים באיכות ירודה או סנכרון שפה לקוי", אומר אלכס שטיינברג, מנהל מוצר ESET בחברת קומסקיור. עוד הוא הוסיף כי "הפושעים מנצלים כלים מתקדמים של בינה מלאכותית כדי להפוך את ההונאות לאמינות מאי פעם, לכן האחריות שלנו כמשתמשים היא לעצור לרגע ולבדוק את המידע מול מקורות רשמיים. במקרה של חשד לגניבת פרטי אשראי, יש לפנות מיידית לבנק או חברת האשראי ולחסום את הכרטיס, בנוסף לעקוב אחר עסקאות חריגות, ולדווח לרשויות".

אז בפעם הבאה שנינט מציעה לכם להשקיע בחברה חדשה שהיא בדיוק הכירה או שתום אבני ממליץ לכם על בנק שמעולם לא שמעתם עליו, אל תתפתו – קודם כל תבדקו שזה לא AI שפשוט יודע מי הסלבס שאתם הכי אוהבים ומנסה להפיל אתכם באמצעותם.