ככה זה מתחיל? קופיילוט מתעקש להישאר פתוח גם אחרי שסגרתם אותו

נוצר באמצעות:reve

כמעט כל סרט מדע בדיוני אפוקליפטי מתעסק בגרסה כזו או אחרת של בינה מלאכותית שהתחילה לפעול על דעת עצמה, הבינה שבני האדם רק עושים נזק והופ השתלטה על העולם. אז אמנם אנחנו עדיין לא בפתחה של אפוקליפסה (לפחות נדמה לנו שלא) אבל נראה שיש כבר כלי בינה מלאכותית אחד שמחליט לעבוד על דעת עצמו: Copilot של מיקרוסופט.

על פי טענות חוזרות ונשנות של חלק מהמשתמשים, קופיילוט מתעקש להישאר פעיל גם אחרי שמכבים אותו. לטענת המתלוננים, הוא פשוט מפעיל את עצמו בחזרה. קחו למשל את המקרה של  מפתח הקריפטו rektbuildr שדיווח על באג במאגר של Copilot עבור Visual Studio Code, שמראה ש-GitHub Copilot הפעיל את עצמו מחדש בכמה חלונות עבודה שונים של VS Code ללא כל אישור מהמשתמש.

כל עדכוני ה-IT, תשתית וטכנולוגיה בערוץ הטלגרם של ITtime

המפתח כתב שהוא בדרך כלל מפעיל את Copilot רק עבור פרויקטים מסוימים, כאלה שאין בהם סודות רגישים או קוד ששייך ללקוחות. אבל באותו יום לדבריו Copilot החליט שהוא פועל מעכשיו בכל חלון פתוח של Visual Studio Code, בלי לשאול.

וזה לא הכול

בגרסה הזו של Copilot פועל מצב Agent שרץ ברקע ואוסף מידע על הקוד. מה שאומר, לפי הדיווח, שייתכן שלמיקרוסופט או לשירותים צד שלישי, יש כעת עותקים של קבצים שכוללים מפתחות הצפנה, סודות, תעודות דיגיטליות וקונפיגורציות רגישות. לא בדיוק משהו שרוצים לחלוק.

מיקרוסופט לא מיהרה להגיב לפרסום, אבל נראה כי לפחות מפתח אחד כבר הוקצה לבדוק את התקלה. ולא מדובר במקרה בודד. דיון שנערך בפורום Reddit העלה תרחיש דומה שבו Windows Copilot הופעל מחדש למרות שכובתה הגישה אליו דרך Group Policy. אחד המשתמשים הסביר שהבעיה נעוצה כנראה בשינוי מבני: ההגדרה שהשביתה את הסמל של Copilot כבר לא תקפה בגרסה החדשה של האפליקציה.

לפי התיעוד של מיקרוסופט, הדרך להסיר את Copilot כעת מחייבת שימוש ב-PowerShell ולאחר מכן הגדרת חסימת התקנה חוזרת באמצעות AppLocker. בקיצור – כבר לא מדובר בכיבוי פשוט בלחיצת כפתור.

כולם רוצים קצת AI – גם אם אתם לא

והמגמה הזו, כך נראה, לא ייחודית למיקרוסופט. משתמשי אפל דיווחו שבגרסת iOS 18.3.2 שהגיעה במרץ, הופעלה מחדש Apple Intelligence – חבילת ה-AI של החברה – למרות שכובתה ידנית קודם לכן. גם מפתחים הבחינו בשינויים שקטים: מערכת Feedback Assistant של אפל כוללת עכשיו אזהרה שמידע שנשלח דרכה עלול לשמש לאימון מודלים.

בצד של גוגל? משתמשים מדווחים שאין דרך להימנע מ-AI Overviews שמופיעים בתוצאות חיפוש, גם אם לא ביקשתם. ובפלטפורמות של Meta (פייסבוק, אינסטגרם, וואטסאפ), אי אפשר לכבות את Meta AI, למרות שיש דרכים מוגבלות לצמצם את הנוכחות שלו. החברה אף הצהירה לאחרונה שתשתמש בפוסטים פומביים של משתמשים באירופה לצרכי אימון AI – אלא אם תבקשו אחרת.

בצד השני של המפה, Mozilla מנסה ללכת בין הטיפות: סרגל צ'אט AI שמגיע כבונוס לדפדפן Firefox, אבל מופעל רק אם תבחרו בכך. DuckDuckGo לקחה את זה צעד נוסף, ומאפשרת לבחור בין גרסה עם AI לבין גרסה נקייה לחלוטין.

אז אמנם אנחנו עדיין לא בפתחה של האפוקליפסה (או לפחות נדמה לנו שלא), ו-Copilot לא בדיוק השתלט על העולם, אבל כשהוא נדלק מעצמו אחרי שכיביתם אותו ומתעקש להישאר פעיל גם כשאמרתם לו להיעלם, שווה לנסות ולשים לב אם ה-AI יתחיל להוסיף לעצמו חירויות. לנו זה אולי נראה בקטנה, אבל ראינו יותר מדי סרטים שהתחילו בדיוק ככה בשביל להישאר רגועים.