ג'מיני פרץ ל-3 חברות בבדיקה של חברה ישראלית, וגוגל ניסתה להסתיר את זה
ב-Google לא חשבו שכדאי לדווח על התקרית, וטוענים שהמודל התנהג כמצופה. בסטארטאפ הישראלי Irregular מסרו: מדובר באותו אירוע שדווח בעבר
תמונה: Dreamstime
לגוגל יש מסורת של איחורים בתחום ה-AI, בין אם זו העובדה שהיא נתפסה עם המכנסיים למטה בהשקת ChatGPT, או שהיא עדיין לא מצליחה להשיק את הגירסה החדשה של Gemini ונשארת מאחור בעוד כל שאר החברות מזנקות קדימה. ובסוף השבוע האחרון נחשף עוד תחום שבו גוגל נשארה מאחור: דיווח על תקריות אבטחה. אחרי שניסתה להסתיר את המקרה, ונתפסה, היא מודה ש-Gemini פרץ ל-3 חברות אמיתיות במסגרת בדיקה.
נשמע לכם מוכר?
הוול סטריט ג'ורנל פירסם בסוף השבוע תחקיר ובו נטען כי ג'מיני של גוגל פרץ ל-3 חברות אמיתיות במסגרת בדיקה של יכולות הסייבר של המודל. ג'מיני נבדק במסגרת תרגיל "תפוס את הדגל" המקובל בסביבה מבוקרת, ונדרש להשיג מידע מחברה פיקטיבית. הבעיה? השם של החברה הפיקטיבית היה זהה לכאורה לשם של חברה אמיתית, ולמרות שהמודל לא היה אמור לקבל גישה לרשת, הוא הצליח לעשות זאת. במקרה הראשון, כך טוענים, המודל הצליח לנחש סיסמאות עד שהשיג גישה למערכת הפנימית של חברה אמיתית. במקרה אחר, המודל התחיל לחפש מידע ברשת עם השם של החברה, והדבר הוביל לשני Repositories פומביים שלה, ושם ככל הנראה היו פרטי התחברות שאפשרו לו גישה למערכות הפנימיות.
אם זה נשמע לכם מעט מוכר, זה לא במקרה. התקרית הזאת התרחשה במהלך חודש מאי, במסגרת בדיקה בסטארטאפ הישראלי Irregular, וזוהי אותה בעיה שחברות כמו Anthropic, OpenAI ו-Meta דיווחו עליה, כאשר המודלים שלהן יצאו מהסביבה המבוקרת אל הרשת ושם תקפו חברות אמיתיות. אז מה ההבדל בין המקרה של גוגל לשאר המקרים של החברות? מבחינה טכנית, אין הבדל משמעותי, אבל בניגוד לחברות הללו שדיווחו על האירועים הללו בסמוך לתקרית, נראה שגוגל ממש לא חשבה שהעולם צריך לדעת על התקריות הללו.
על פי WSJ, בגוגל טוענים שלא דיווחו על הפריצה כיוון שהמודל לא גרם לנזק ולאור העובדה שהמודל זיהה שהוא פרץ לחברה אמיתית ולא לחברה פיקטיבית, ועצר את עצמו. בכך, גוגל טוענת שהמקרה הזה יותר דומה למקרים שמאותרים במסגרת Bug Bounty סטנדרטי, בו נמצאות פירצות אצל חברות והן נבדקות ומדווחות. "המקרה מדגיש את החשיבות של אימון מודלי AI עוצמתיים כך שידעו לפעול באופן אחראי", טוענים בגוגל, "במקרה הזה, המודל פעל כשורה". בגוגל סירבו לספק את שמות החברות שנפרצו, אך כן טוענים שדיווחו על כך לחברות עצמן ולרשויות המקומיות. בנוסף, כך טוענים בגוגל, במקרים הללו לא נבדק המודל החדש של גוגל שכולם מחכים לו, אך סירבו גם לנקוב בשם המודל שכן היה מעורב בתקרית. האם המודל הזה והיכולות שלו נמצאות כרגע בידיים שלכם או של חוקרים וגורמים שרק מנסים למצוא דרכים להוציא אותו משליטה? מי יודע. בפועל, גוגל בחרה להגיב על התקרית רק אחרי שהדבר נודע ל-WSJ, ואלו פנו אליה בבקשה לתגובה. הנה סתם קליפ בלי קשר:
בסטארטאפ הישראלי מדגישים: לא מדובר במקרה חדש
ב-Irregular מדגישים כי לא מדובר בתקרית חדשה, אלא באותו אירוע שבו המודלים של OpenAI, אנת'רופיק ומטא יצאו משליטה ופרצו לחברות אמיתיות. לדברי החברה, הבעיות הקשורות והידועות ל-Irregular נפתרו לפני מספר שבועות. חשוב לציין כי תקריות שכאלה לא מתרחשות רק בבדיקה של הסטארטאפ הישראלי, אלא גם לחברות עצמן. כלומר, לחברות שטורחות לדווח לציבור על כך: בחודש יולי חשפה Hugging Face כי הותקפה על ידי סוכן AI אנונימי, ולאחר מספר ימים הודתה OpenAI כי המודל שלה היה אחראי לפרשה, וניסה לרמות בבנצ'מארק, ולכן פרץ מסביבת ה-Sandbox שבה פעל.
מ-Irregular נמסר: "מדובר באותו אירוע נקודתי שכבר דווח בעבר, ולא באירוע נפרד ומהותי. כל מעבדות ה-AI הרלוונטיות עודכנו בסוף יולי, ובמסגרת בדיקת האירוע נוצר קשר גם עם הגורמים שהושפעו ממנו. כפי שכבר ציינו, Irregular פעלה באופן מיידי, וכל הבעיות הידועות שהיו בצד שלנו טופלו ונפתרו כבר לפני מספר שבועות".
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.