עוד בכיר בצוות הבטיחות של OpenAI פורש עם אזהרה מהמצב
דיוויד רובינסון היה חתום על דוחות הבטיחות של מודלים ששימשו את כולנו, ואחרי שיצא מהחברה הוא
השבועות האחרונים מלווים בשיח בלתי פוסק על האטת מהירות הפיתוח של מודלי ה-AI עקב שורה של תקריות, כולל הפריצה ל-Hugging Face ע"י סוכני OpenAI. לצד הקריאות הללו נחשפים עוד ועוד עובדים שעזבו את החברות על רקע טענות לטיפול לקוי בבטיחות של המודלים. עובד חדש כזה נחשף בסוף השבוע, שטוען כי "התרבות ב-OpenAI שבורה".
להתנהל כמו כור גרעיני
דיוויד רובינסון יודע שהוא קצת קלישאה בשלב זה, בהתחשב בכך שיש כבר כמה וכמה עובדים שיצאו מהמעבדות והתריעו לפניו על מצב בטיחות המודלים. רק לפני כמה שבועות זה היה ג'ייקוב קוקסון – עובד אנת'רופיק ו-OpenAI לשעבר – שטען כי החברות בתחום "מהמרות על החיים שלנו" מכיוון שהן לא מטפלות כראוי בנושא הבטיחות של המודלים. וכעת רובינסון מצטרף לקריאה ומודה שהוא עוד אחד בשרשרת של בכירים שעזבו, ומזהירים שהמצב לא יכול להימשך ככה.
"אני חושב שלא צריך להסתפק בחוקים חדשים. צריך לדבר על התרבות", כותב החוקר לשעבר בטור מיוחד למגזין The Atlantic. רובינסון היה חלק מצוות הבטיחות של OpenAI ומי שכתב את דוחות הבטיחות על המודלים שמשמשים מאות מיליונים מדי יום. לדבריו, כשעזב עם שלוש וחצי שנות ותק הוא היה "אחד העובדים הוותיקים ביותר בחברה".
לפי רובינסון, "OpenAI גדלה על ידי שימוש בניסוי וטעייה, בחיפוש אחר בעיות והתאמת מערכות ההגנה שלה בתגובה". עם זאת, הוא מדגיש כי ככל שהמודלים משתפרים, התהליך הזה הופך בעייתי וכי "השיטה הזאת, מטבעה, מייצרת כישלונות מדי פעם". הכישלונות הללו הופכים גדולים ומסוכנים יותר עם מודלים עוצמתיים, וזה מה שקרה למשל במקרה של Hugging Face ושורת מקרי פריצה של סוכני החברה שנחשפים בשבועות האחרונים – כולל ניסיונות פריצה וגישה לאתרים ממשלתיים בארה"ב ובמדינות אחרות. על רקע כל המקרים הללו, החברה גם הודיעה לאחרונה כי היא עוצרת את אימון המודלים שלה עד להקשחת ההגנות שלה.
העובד לשעבר טוען כי על רקע התקריות החמורות של החברה, היא לא יכולה לקבל יד חופשית בפיתוח המודלים שלה: "סביבה שבה אירועים כאלו קורים היא לא סביבה שבה ניתן לפתח מוחות מלאכותיים שיוכלו להיות חכמים יותר מאיתנו ושאולי לא יעשו מה שנבקש מהם". לדבריו, בגלל רמת הסיכון האפשרית, על OpenAI להתנהל "כמו כור גרעיני או שדות תעופה עמוסים, עם שכבות של אבטחה ותכנון ארוך ומקיף, כך שטעויות אנוש שאי אפשר להימנע מהן ויקרו מדי פעם לא יפתחו פתח לאסון".
דובר מטעם OpenAI הגיב לטור של רובינסון ומסר: "אנחנו מוודאים שהמודלים שלנו לא יהפכו לחזקים יותר ממה שאנחנו מסוגלים לנהל ולאבטח בבטחה, ואנחנו עוצרים את אימון המודלים או מעכבים שחרור מודלים כשאנחנו צריכים להאט". הוא הוסיף: "אנחנו מבצעים שינויים משמעותיים כדי לחזק את האבטחה בסביבות המחקר והבדיקה שלנו, מאמנים מודלים לא רק להשלים משימות אלא לעשות זאת באחריות, מרחיבים את העבודה עם גורמי הערכה חיצוניים, ומשפרים את הניטור בזמן אמת כדי שנוכל לזהות התנהגות מדאיגה ולהגיב מוקדם יותר בתהליך האימון".
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.