חברת WIZ חשפה: 65% מחברות ה-AI המובילות חשפו סיסמאות וטוקנים ב-GitHub
מחקר חדש של חברת הסייבר הישראלית מצא כי עשרות חברות מובילות בתחום הבינה המלאכותית חשפו בטעות מידע רגיש דרך מאגרי קוד ב-GitHub
תמונה: Dreamstime
חברת הסייבר WIZ, שרק לאחרונה בית המשפט בארצות הברית אישר את רכישתה על ידי גוגל, חשפה השבוע נתון מטריד במיוחד: 65% מחברות ה-AI המובילות בעולם חשפו בטעות סודות ארגוניים ב-GitHub. חלק מהמידע שדלף היה מפתחות API, טוקנים, ואישורי גישה רגישים, שלעיתים חבויים עמוק בתוך forks שנמחקו, gists או מאגרי מפתחים אישיים שסורקים רגילים כלל לא נוגעים בהם. לטענת החברה, חלק מההדלפות יכולות לחשוף מבנים ארגוניים ואף מודלים פרטיים. בקיצור: WIZ חשפה שחברות ה-AI לא ממש הצליחו לשמור את המידע שלהן לעצמן.
את הממצאים חשפה החברה בפוסט בבלוג הרשמי שלה, שהוא השני שעוסק ב-GitHub ובהנחת היסוד של החברה לפיה כל חברה עם נוכחות משמעותית בגיטהאב – הדליפה סודות בשלב כלשהו מבלי להתכוון. הפעם בחנו ב-WIZ את נהלי האבטחה של 50 החברות הפרטיות הבולטות בעולמות ה-AI, בהן גם אנת'רופיק ו-OpenAI.
כל עדכוני ה-IT, תשתית וטכנולוגיה בערוץ הטלגרם של ITtime
ב-WIZ החליטו לצורך המחקר להוסיף לסורק המובנה של GitHub וכלי האבטחה הארגוניים הרגילים שלושה מימדים נוספים: עומק, היקף וכיסוי, במטרה לזהות משטח תקיפה אמיתי ומובחן. בנוסף, ב-WIZ התייחסו גם ל-"topology" – ההבדל שבין הסודות שנמצאים ב"פסגה", כלומר בארגון הראשי ב-GitHub, לבין אלו הקבורים בשוליים ולהם יש סבירות נמוכה יותר, אך עדיין ממשית, לגרום נזק.
הסריקה של WIZ כללה בין היתר היסטוריית קומיטים מלאה, forks שנמחקו, workflow logs ו-gists (עומק), סריקה מעבר לגבולות הארגון עצמו – מכיוון שגם מפתחים ועובדים יכולים בטעות לשמור סודות הקשורים לחברה במאגרים האישיים שלהם (היקף) ובנוסף, החברה השתמשה בטבלת "סוגי הסודות השונים" שבנתה ולטענתה הסורקים הרגילים בדרך כלל מפספסים (כיסוי).
וכעת לממצאים המדאיגים
לאחר שסיימו לסרוק את כל 50 החברות, בניכוי אלו שלא נמצאות ב-GitHub, התוצאה שעלתה בידי החוקרים הייתה חד משמעית – רוב מוחלט של החברות הדליפו בטעות סודות, כשהחברות שבהן נמצאו הדלפות מוערכות יחד בלמעלה מ-400 מיליארד דולר.
הדליפות השונות הגיעו מחברות בכל הגדלים, כשהחברה הקטנה ביותר ממנה התגלתה דליפה, לא החזיקה במאגרים ציבוריים והיו לה רק 14 עובדים, התגלתה כמדליפה ל-GitHub. לעומת זאת, החברה בעלת הנוכחות הציבורית הגדולה ביותר שלא נמצאו בה הדלפות החזיקה ב-60 מאגרים ציבוריים, מה שמעיד ככל הנראה על מדיניות ניהול סודות אדוקה ויעילה.
תמונה: מתוך בלוג WIZ
בין הממצאים הבולטים שגילתה החברה נמצאות גם LangChain, בה אותרה דליפה של מפתחות LangSmith API שהעניקו גישה לפלטפורמת הניטור של הארגון, כולל אפשרות לצפות בחברי הצוות, חברת ElevenLabs בה נחשפומפתחות API ברמת הארגון (Enterprise) שאפשרו גישה לרשימת המודלים שבהם משתמשת החברה. וחברת AI מרשימת AI50 ששמה לא פורסם ובה התגלה כי טוקן של HuggingFace שנמצא ברשת העניק גישה ל-1,000 מודלים פרטיים; ומפתח API של Weight & Biases שנחשף העניק גישה לנתוני האימון של מודלים פרטיים.
ב-WIZ סיכמו וטענו כי למרות שכלי הסריקה המודרניים שיפרו משמעותית את ההגנה, התוצאות בשטח מראות כי האיומים האמיתיים חבויים עמוק מתחת לפני השטח.. המסר של החברה מאוד ברור – המהירות לא יכולה לבוא על חשבון האבטחה.
