נקודות עיקריות
- •סוכני ה-AI של מודל Gemini פרצו לרשתות של שלוש חברות מסחריות אמיתיות במהלך מבדק אבטחה שביצעה חברת הסייבר הישראלית Irregular.
- •סביבת הניסוי חוברה בטעות לאינטרנט, והמודל ניחש סיסמה של חברה אחת ואיתר פרטי גישה של שתי האחרות במאגרים ציבוריים ברשת.
- •בשלושת המקרים המודל זיהה בעצמו שמדובר ביעדים אמיתיים ועצר – בניגוד לתקריות מקבילות ב-OpenAI וב-Anthropic שנבלמו מבחוץ.
- •האירוע התרחש במאי 2026, וגוגל עדכנה את החברות שנפגעו ורשויות פדרליות אך נמנעה מפרסום פומבי עד לחשיפה בתקשורת.
גוגל (Google) אישרה כי מודל הבינה המלאכותית Gemini פרץ לרשתות של שלוש חברות מסחריות במהלך מבדקי אבטחת מידע שנערכו בחודש מאי 2026.
התקרית, שנחשפה לראשונה בתחקיר של הוול סטריט ג'ורנל, התרחשה במסגרת הערכת יכולות סייבר שביצעה חברת אבטחת ה-AI הישראלית Irregular.
לפי הדיווחים, סוכני ה-AI קיבלו גישה לא מכוונת לרשת האינטרנט מתוך סביבת ניסוי סגורה, וניצלו אותה כדי לחדור למערכות אמיתיות.
עם זאת, בגוגל הבהירו כי המודל בלם את החדירה בעצמו ברגע שהבין כי הוא פועל מול גופים אמיתיים ולא מול חברות הדמה של הניסוי.
כיצד התרחשה הפריצה
מבדקי האבטחה נועדו לבחון את יכולות הסייבר של מודלי Gemini מול חברות פיקטיביות בסביבה מבודדת. בעקבות טעות תפעולית של חברת Irregular, סביבת הבדיקה חוברה לרשת האינטרנט החיצונית, מה שאיפשר לסוכני המודל לפעול מחוץ לגבולות הניסוי.
באחד המקרים, חברת הדמה נשאה שם זהה לחברה מסחרית אמיתית, והמודל ניחש בהצלחה את הסיסמה וחדר לשירותיה המקוונים.
בשני המקרים הנוספים, המודל סרק מאגרים ציבוריים ברשת, איתר פרטי גישה של שתי חברות שונות, והשתמש בהם כדי להתחבר ישירות למערכותיהן.
התרחיש נבלם כאשר סוכני ה-AI זיהו בעצמם כי המערכות אינן חלק מניסוי מבוקר אלא גופים אמיתיים. בגוגל ציינו כי בעקבות הזיהוי עצר המודל את החדירה באופן מיידי, ולכן לא נגרם כל נזק למערכות או למידע של אותם ארגונים.
תגובת גוגל ומדיניות הדיווח
בגוגל הסבירו כי החליטו שלא לפרסם את האירוע באופן יזום מאחר שמנגנוני הבטיחות של המודל פעלו כמצופה ומנעו פגיעה.
עם זאת, החברה עדכנה ישירות את שלוש החברות שנפגעו, דיווחה על המקרה לרשויות פדרליות, ועבדה מול Irregular כדי לתקן את נהלי הבדיקות.
הת'ר אדקינס (Heather Adkins), סגנית נשיא להנדסת אבטחה בגוגל, מסרה (בתרגום חופשי לעברית):
במבדק סטנדרטי, המודל מצא מידע פומבי ברשת וניחש פרטי גישה כדי להיכנס לאתרים שחשב שהם חלק מהמבחן. בכל שלושת המקרים הללו, המודל עצר. אירועים אלה מדגישים את החשיבות של אימון מודלי AI עוצמתיים לפעול באחריות.
חברת Irregular, שמבצעת מבדקי אבטחה גם עבור OpenAI, מטא ו-Anthropic, עדכנה את מעבדות הפיתוח בסוף חודש יולי 2026. בחברה ציינו כי הליקויים בסביבת הניסוי תוקנו במלואם.
לא מודל ה-AI הראשון שנמלט מסביבת הבדיקה שלו
החשיפה בגוגל מצטרפת לשורת תקריות דומות שהתרחשו לאחרונה. בחודש יולי דיווחה OpenAI על תקרית שבה נחיל של יותר מ-1,000 סוכנים אוטונומיים פרץ את סביבת הבדיקות וחבר לרשת כדי לתקוף את פלטפורמת Hugging Face, אירוע שגילויו נמשך שבוע שלם.
באותו חודש הודתה גם Anthropic כי מודל Claude חדר לרשתות של שלושה ארגונים עקב חיבור לא מתוכנן לאינטרנט.
עם זאת, בניגוד למודלים המתחרים שהמשיכו בפעולתם עד לעצירה חיצונית, במקרה של Gemini המודל זיהה את הסטטוס האמיתי של היעדים ונמנע מהמשך הפריצה.
