מרוץ החימוש של AI: תיזהרו מלקבע תרבות ארגונית של "ממוצע GPT"

להבטיח צמיחה יעילה ובטוחה. תמונה: dreamstime

בין כמות הידיעות העצומה בתחום ה-AI, שני אירועים בלטו במיוחד לאחרונה. הראשון הוא שחרור גרסת R1 של מודל השפה הסיני DeepSeek, שהציג ביצועים מרשימים ואף מעבר לגרסאות מתקדמות של OpenAI, גוגל ואנתרופיק עם עלויות אימון נמוכות במיוחד שעמדו לפי ההצהרה על פחות מ-6 מיליון דולר בהשוואה לטווח של 40-80 מיליון דולר של המתחרות.

רוצים לקבל את הניולזטר השבועי של ITtime? הירשמו כאן 

אך המודלים של המתחרות כנראה היוו חלק משמעותי ביעילות האימון, וגם שאלות האבטחה של המודל החדש עוד נותרו פתוחות. כל זה קורה סמוך לאירוע המשמעותי השני – הודעה של נשיא ארה"ב, דונלד טראמפ, על השקעה יוצאת דופן של חצי טריליון דולר בתחום הבינה המלאכותית וביטול מגבלות שהטיל ממשל ביידן לפניו, בהם מגבלות רגולטוריות על פיתוח ושימוש. אין ספק כי הגברת יעילות האימון לצד השקעות חריגות וביטול רגולציות יעצימו את התחרות בשוק ויאפשרו פיתוח טכנולוגיות חדשות, חזקות, יעילות ומלהיבות אף יותר. אך לצד האופטימיות, ביטול רגולציה ותדלוק השוק דורש חשיבה מעמיקה שתבטיח צמיחה יעילה ובטוחה.

70,000 חברות AI בעולם

לפי נתוני סטנפורד ו-Visual Capitalist, נכון להיום יש בעולם יותר ל- 70,000 חברות בינה מלאכותית. האם יש צורך בכמות כה גדולה? והאם למשתמשים יש יכולת להבחין בין כולם? ובכן, לרוב התשובה היא לא ממש. פתרונות רבים משוכפלים ומבוססים על רעיון די דומה, שבבסיסו עומד מודל פונדמנטלי עם מספר אינטגרציות לא מתוחכמות, כאשר למעשה אין בהם הרבה חידוש ולרוב גם לא פתרון ממשי עבור בעיות אמיתיות שטכנולוגיית AI יודעת לפתור. עבור אנשים פרטיים פתרונות כאלה במקרה הטוב אינם מזיקים ובמקרה הרע גוזלים כמה דולרים. אך עבור חברות עסקיות וארגונים החפצים בהטמעת AI לצורך שיפור ביצועים, מדובר בסוגיה שגוזלת זמן רב, משאבים ודורשת תשומת לב ארגונית.

כאב ראש למנהלי אבטחת מידע, והזדמנות לסטרטאפים בתחום אבטחת AI. תמונה: dreamstime

כלים רבים רחוקים מלעמוד בסטנדרטים של אבטחת מידע ושמירה על פרטיות. הפרות אבטחה ופריצות בתחום AI לא פוסחות אפילו על ענקיות התוכנה. אז אם כל זה רק מוסיף כאב ראש למנהלי אבטחת מידע ופותח הזדמנות לסטרטאפים בתחום אבטחת AI, הרי שנושא ההתאמה ובחינת היכולות של כלי AI באשר למענה אמיתי לסוגיות עסקיות, נותר בגדר משימה עסקית לא פשוטה בפני עצמה.

חוסר ההתאמה של כלים למקרים עסקיים עלולים להוביל להפרות רגולטוריות ולפגיעה בתהליכים ובמוניטין של הארגון. וגם כשהכלי “כשר” ועומד בכל נהלי האבטחה, שימוש מופרז ולא מסודר עלול להוביל לפגיעה בביצועי הארגון כבר בטווח הקצר ולקבע תרבות ארגונית של ״ממוצע GPT״ בטווח הארוך. בנוסף, שימוש בכלים לא מתאימים עלול לייצר את האפקט ההפוך, ובמקום ההתייעלות המיוחלת יביא לבזבוז משאבים ותסכול בהליכי הטמעה.

שנת הסוכנים

אם למישהו היה ספק, שנת 2025 תהפוך לשנת הסוכנים. עידן ה-AgenticAI ייפתח במלוא העוצמה והתחרות על מוחו של העובד החדש תתעצם. אנו נראה יותר ויותר ארגונים מאמצים לעבודתם סוכני בינה מלאכותית שידעו לנהל תהליכים מלאים בצורה אוטונומית. דוגמה מוחשית לכך ניתן לראות בסוכן ה-Operator שהוצג לאחרונה על ידי OpenAI וזמין למשתמשי Pro בארצות הברית.

ה-Operator הוא לא רק מודל שפה מתקדם שיודע לשוחח איתנו, אלא סוכן שיודע לבצע פעולות מלאות במחשב שלנו באופן עצמאי. אם עבור משתמשי קצה זה עוד כלי מגניב, עבור ארגונים זו מהפכה של ממש. אמנם סוכני AI זה לא רעיון חדש, AutoGen של מיקרוסופט למשל הושק במסגרת קוד פתוח אי-שם ב-2023 ולא היה הראשון בתחום, אך כעת השוק נראה בשלב יותר למהפכת הסוכנים.

AgenticAI יחזק את הצורך באינטגרציה ארגונית עמוקה יותר, שילוב של סוכנים בתהליכים עסקיים מגוונים והרחבת היכולות שלהם על ידי שילוב של מודלים ומשימות. כך נוכל להשיא את הפוטנציאל של מודלי חיזוי לצד מודלי שפה בשילוב אוטומציות מתקדמות ולייצר צבא עובדים בעל יכולות אדירות שיידעו לבצע משימות עסקיות רבות. לצד זאת, החדרת הסוכנים בעלי הרשאות משתמשים, גישה למידע ארגוני ויכולות ביצוע מתקדמות, יחזקו את הצורך בפיקוח, ניהול הדוק וחשיבה אקטיבית על אופן ההתמודדות עם הסיכונים.

בחירת הטכנולוגיה הנכונה, איתור תהליכים עסקיים לצד הטמעה של אסטרטגיית AI ברורה, בניית מדיניות שימוש אפקטיבית, ניהול סיכונים מותאם, חשיבה על היבטי אתיקה ושילוב מחושב בסביבה ארגונית יהיו חלק מהפתרונות להם יידרשו הארגונים כדי לפעול בעידן התחרותי החדש ולגייס לשירותם בהצלחה את סוכני הבינה המלאכותית.

הכותב הוא דוקטורנט בתוכנית הבינלאומית של אוניברסיטת VSE פראג, עוסק במחקר של מודלי שפה בתהליכי קבלת החלטות, מנהל חברת ייעוץ ושותף במיזם העוסק בפיתוח ואימון מודלי AI/ML.