כן, OpenAI פתרה מאות בעיות פתוחות במתמטיקה, אבל אף אחד לא מבין את הפתרון
מודל של OpenAI שחרר מאות פתרונות לבעיות מתמטיות, אבל באקדמיה מזהירים: מדובר בסכנה לעתיד המחקר.
עיבוד תמונה
מאת: פרופ' עלי זלצברגר, ד"ר אביגיל פרדמן, ד"ר שירה אחישר, אושרת כץ שחם
בתוך לילה אחד העלתה OpenAI לרשת מאות כתבי יד מתמטיים, ובהם הוכחות לבעיות פתוחות. דובר החברה אמר ל-Scientific American שגם המתמטיקאים שלה עדיין אינם מבינים רבות מן התוצאות, והמהלך זה ממחיש היטב בעיות עומק שהאקדמיה נדרשת להתמודד איתן.
עבודה של עשרות שנים
722 כתבי היד שהועלו בשבוע שעבר עוסקים ביותר מ-300 בעיות מתמטיות פתוחות, חלקן כאלה שמתמטיקאים עבדו עליהן עשרות שנים. את כולם הפיק מודל פנימי שהחברה לא שחררה לציבור, ובממוצע כל תוצאה דרשה כשלוש שעות חישוב. מתמטיקאי אמריקאי בכיר העריך שאחת התוצאות הייתה מזכה אדם במדליית פילדס, הפרס היוקרתי ביותר במתמטיקה. חודש קודם לכן הודיעה החברה שאותו מודל פתר את בעיית נאוויה-סטוקס, שעוסקת במשוואות המתארות תנועה של נוזלים וגזים. זו אחת משבע "בעיות המילניום", שעל פתרון כל אחת מהן הוצע פרס של מיליון דולר.
שלושה ימים אחר כך פרסמו זוכי מדליית פילדס, ובהם טרנס טאו והישראלי אילון לינדנשטראוס, הצהרה משותפת. לדבריהם, יש פער גדול בין המטרות של חברות ה-AI לבין המטרות של הקהילה המתמטית. פתרון בעיה מתמטית, הם כותבים, איננו מטרה בפני עצמה אלא סימן לכך שנולדה הבנה חדשה. הבנות חדשות כאלו נבנות לאט בהרצאות, בדיונים, בכנסים ובכתיבה מסודרת, עד שהרעיון מגיע לספרי הלימוד. תהליך זה הוא שהופך רעיונות לחלק חי מהמתמטיקה, וכך נבנה גוף הידע, בשרשרת של העברה אנושית בין מתמטיקאים. החותמים הוסיפו שהבעיה אינה ייחודית למתמטיקה: בתחומים רבים, שנים של הכשרה נועדו לא רק להפיק תשובה, אלא גם לפתח הבנה ויכולת לשאול שאלות חדשות.
טרנס טאו, מהבולטים במתמטיקאים בעולם, כתב ביום ההכרזה על נאוויה-סטוקס ששימוש גורף בכלי בינה מלאכותית לפתרון בעיות מתמטיות משיג את המטרה המיידית — פתרון הבעיה — אבל במחיר כפול: הוא פוגע ביכולת של התחום לייצר את גל ההתקדמות הבא, ובהבנה של מה שכבר הושג. לדבריו, אי אפשר לאסור את השימוש בכלים האלה, אבל אפשר להגדיר סוגים של בעיות שבהן הקהילה מצפה, מעבר לפתרון, גם לניתוח שמחלץ תובנות ומלמד משהו על בעיות סמוכות. בבעיות כאלה, פתרון "גולמי" שווה מעט מאוד, ואולי אף מזיק.
רצף האירועים חושף עד כמה דחוף לאקדמיה להתמודד עם שאלות שהן, ביסודן, שאלות של אתיקה אקדמית.
עלויות א-סימטריות והצפת מידע
בשולחן עגול שקיימנו במאי האחרון הוגדרו סוגיות שכל אחת מהן משתקפת במהלך של OpenAI: בין השאר הוגדרה בעיה של "עלויות א-סימטריות". בעיית הסינון וההערכה של תוצרי ידע בהיקפים גדולים היא איום משמעותי על התשתיות האקדמיות. כיום זול מאוד לייצר תוכן, ויקר מאוד להעריך אותו. שיפוט עמיתים, כתבי עת וועדות מינויים נבנו לעולם שבו ייצור ידע היה איטי ויקר. המהלכים האחרונים מסמנים מעבר מעולם שבו ידע חדש הוא דבר נדיר לשפע פתאומי של תוצאות.
סוף עידן שיתוף הידע?
בעיה נוספת נוגעת לשיתוף הידע. הידע המתמטי הוא משאב משותף, שדורות של חוקרים בנו יחד, והוא נשען על חוזה לא כתוב של הדדיות: המוסכמה בעולם האקדמי בכלל היא שחוקרים משתפים רעיונות ומחקרים בציפייה שאחרים ימשיכו אותם, יכירו בתרומתם וישתפו בעצמם. מערכות ה-AI מפיקות את התוצאות שלהן תוך הישענות על המשאב הזה, כפי שמציינים זוכי מדליית פילדס בהצהרתם, ומחזירות בתמורה תוצאות שעדיין אינן מובנות. משאב משותף נשמר רק כל עוד מי שמשתמש בו גם תורם לו, וכשאחד השחקנים רק לוקח, האחרים מפסיקים לתת.
משבר האמון של האקדמיה
וישנה גם בעיה של אמון. הנורמה המקובלת במתמטיקה, כפי שמנסחת אותה הקבוצה מפרינסטון, היא שמחבר מבין את הטיעון שלו, בדק אותו ונוטל עליו אחריות מלאה. לגבי רבות מהתוצאות, אין עדיין איש (או מכונה) שעומד בתנאי הזה. בדיקה ממוחשבת יכולה לאשר שהוכחה נכונה, אבל לא שמישהו מבין אותה. וגם היא אינה חסינה: מתמטיקאים מקיימברידג' ומלונדון מצאו אי-התאמות בין הוכחה של OpenAI לבין הגרסה שנבדקה במחשב. ובנוסף, כל עוד החברה אינה משחררת את המודל, גם הטענות על הדרך שבה הופקו התוצאות אינן ניתנות לבדיקה. מצב זה מחייב לחשוב מחדש מה מאפשר לנו לסמוך על ידע. עד היום שאלנו בעיקר אם החוקר פעל ביושר. עכשיו צריך לשאול גם אם יש מישהו שמבין את התוצאה ויכול לעמוד מאחוריה.
מי מחזיק בכוח?
ומעל כל אלה עומדת שאלת הכוח. החברה בחרה אילו בעיות ייבחנו, באיזה פורמט יוצגו התוצאות והיכן יאוחסנו. הקהילה המדעית ניסחה כללים מהר, בשקיפות ובשיתוף רחב, ובכל זאת השחקן החזק בשדה אימץ מהם רק את מה שנוח לו. זו בעיה קלאסית של פעולה קולקטיבית: אף חברה לא תעצור לבד כל עוד המתחרות ממשיכות. השופט יצחק זמיר כתב באחד מפסקי הדין שכאשר האתיקה חלשה או חסרה מנגנון אכיפה, המשפט עשוי לחצות את הגדר אל תחומה. ייתכן שהגענו לנקודה הזו.
המתמטיקה היא התחום שבו הבעיה הופיעה ראשונה, משום שבה קל יחסית לבדוק אם תוצאה נכונה. ניתן להניח שבתחומים כמו רפואה, משפט ומדעי החברה הבדיקה קשה הרבה יותר, ולכן אותה דינמיקה תהיה מסוכנת יותר. אנחנו קוראים לאקדמיה הישראלית להתחיל לפעול כבר עכשיו. האקדמיה יכולה, למשל, לחייב חוקרים לתעד את השימוש שלהם בכלי AI, להשקיע בהערכה ולא רק בייצור, ולהחליט מה היא מתגמלת: מספר פרסומים, או נכונות לעמוד מאחורי טענה. בנוסף, גופי המימון יכולים לשקול להפוך חלק מהנורמות הוולונטריות לתנאים מחייבים בשיתופי פעולה עם חברות AI.
הבינה המלאכותית משנה את המחקר כבר היום. השאלה היא מי יקבע מה ייחשב ידע גם בעתיד.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.