סם אלטמן התלונן שאנחנו מבזבזים RAM וקיבל הטרלה מושלמת
מנכ"ל OpenAI עורר סערה כשטען שלא יעיל להחזיק זיכרון RAM במחשבים האישיים שלנו כשהוא כמעט לא בשימוש, אז מפתח אחד לקח את הדברים שלו צעד אחד קדימה
סם אלטמן. תמונה: CC-BY-Steve Jurvetson
אם יש כלל ברזל שלמדנו בעשורים האחרונים הוא שהאינטרנט זוכר הכל – גם פליטות פה רנדומליות. סם אלטמן, מנכ"ל OpenAI, גילה את זה בדרך הקשה אחרי שהתלונן על הדרך שבה אנחנו, המוגלגים, "מבזבזים" RAM במחשבים שלנו, במקום שחוות השרתים של ChatGPT יוכלו לנצל את המשאב הנדיר.
אז מפתח אחד החליט לקחת את האמירה הזו לקצה, ויצר כלי שמאפשר לכם להטריל את מייסד OpenAI בדרך יצירתית במיוחד.
אמירה בעייתית אחת, וההטרלה יצאה לדרך
אלטמן התארח לאחרונה בפודקאסט Cheeky Pint של ג'ון קוליסון, נשיא Stripe, והתייחס בין השאר לרצון של משתמשים להריץ מודלי AI באופן מקומי, במקום להסתמך על שרתים של חברות כמו OpenAI. אלטמן טען שגם אם יהיו מודלי קוד פתוח שאפשר להריץ על המחשבים שלנו, זה לא בהכרח יפתור את הצורך בדאטה סנטרים. לדבריו, מבחינת הקצאת המשאבים העולמית, זה "די נורא" שאנשים מחזיקים במחשבים האישיים שלהם חלק מההיצע המוגבל של זיכרון DRAM בעולם, ומשתמשים בו רק 5% מהזמן. הדברים עוררו ביקורת, בין השאר על רקע הביקוש האדיר לזיכרונות מצד חברות ה-AI וההשפעה שלו על המחירים לצרכנים.
בעקבות הסערה, אלטמן מיהר לטעון שדבריו הוצאו מהקשרם, הבהיר שהוא דווקא רוצה שלאנשים יהיה כמה שיותר RAM במחשבים שלהם, ואפילו שינה לזמן קצר את שם המשתמש שלו ב-X ל"RAM Altman". נייס.
אבל לא כולם קנו את ההסבר, ובעיקר, את הגסלייט של מיליארדרי ה-AI, שבעצמם יצרו את המחסור הנוכחי ב-RAM. במקום לכתוב פוסט זועם ברדיט, המפתח איאן קיי שחרר פרויקט קוד פתוח חדש תחת השם שאלטמן בחר לעצמו, 'Ram-Altman'. מדובר בסקריפט Bash קליל (כיאה לפרויקט לינוקסאי), שרץ ברקע ומנטר את ניצול הזיכרון של המחשב שלכם. ברגע שהסקריפט מזהה שיותר מ-10% מהזיכרון ללא שימוש, הוא מכין מייל עוקצני שנשלח ישירות לאלטמן, רק כדי להזכיר לו את הבזבוז הנורא שמתרחש אצלכם במקום להריץ איזה מודל שפה של OpenAI. אחרי הכל, הזיכרון הזה יכול היה להיות בדאטה סנטר כלשהו ולהריץ מודלי AI, ובמקום זה אתם משתמשים בו כדי לפתוח עוד כמה טאבים בכרום.
לא שמעתם את אלטמן? הנה הקטע המדיוק:
הכלי מאפשר להגדיר בדיקה של מצב הזיכרון בכל חמש דקות, אבל כדי לא להפוך את הבדיחה למכונת ספאם, הוא מוגבל לשליחת מייל אחד ביום. קיי יצר כמה תבניות שונות של הודעות, כך שהמיילים לא יהיו זהים בכל פעם (בעזרת AI?). באחת מהן, למשל, הכלי מציג את כמות הזיכרון הכוללת במחשב, כמה ממנה זמין לשימוש, ולצידה רמת האיום: "מישהו ב-OpenAI עלול לשים לב". על ההודעה חתום, כמובן, "בעל RAM מודאג". חשוב לציין שהכלי לא כולל את כתובת המייל של אלטמן, ולא שולח אליו שום דבר כברירת מחדל. מי שרוצה להפעיל את אפשרות השליחה יצטרך להגדיר בעצמו את פרטי המייל והנמען. קיי גם מדגיש שמדובר בפרויקט שנוצר כבדיחה, וממליץ להשתמש בעיקר במצב Dry Run, שמייצר את ההודעות המצחיקות מבלי לשלוח אותן לאיש. אפשר גם להיכנס לאתר של הפרויקט ולראות דוגמאות להודעות שהכלי מייצר, בלי להתקין דבר.
שיעור קטן על ניהול זיכרון
מעבר לטרולינג, יש בפרויקט הזה גם הסבר מעניין על הדרך שבה לינוקס מנהלת זיכרון. במקום להסתכל רק על כמות ה-RAM שמערכת ההפעלה מגדירה כפנויה לחלוטין, הכלי משתמש בנתון שנקרא MemAvailable, שמעריך כמה זיכרון אפשר להעמיד לרשות תוכנות חדשות בלי להידרש לשימוש בזיכרון הווירטואלי שבאחסון. זה חשוב מכיוון שלינוקס משתמשת בחלק מהזיכרון הזמין לשמירת מידע במטמון (Cache), כדי להאיץ פעולות במחשב. הזיכרון הזה אמנם נמצא בשימוש, אבל מערכת ההפעלה יכולה לפנות חלק ממנו בעת הצורך. ב-Ars Technica החליטו לבדוק את הכלי על מחשב שמריץ Fedora 44 עם 16GB של RAM. אחרי שמערכת ההפעלה והקושחה לקחו לעצמן חלק מהזיכרון, נותרו 14.9GB לשימוש. הכלי של קיי זיהה שמתוכם 10GB נמצאים בשימוש ו-4.9GB זמינים, או כ-33% מהזיכרון. כלומר, הרבה מעל רף ה-10% שמצדיק, לכאורה, דיווח דחוף למנכ"ל OpenAI.
קיי גם לא מתעלם מהעובדה שיש הבדל בין מה שאלטמן אמר לבין מה שהכלי שלו מודד. בעוד שאלטמן דיבר על אחוז הזמן שבו הזיכרון מנוצל, Ram-Altman מודד כמה זיכרון זמין ברגע מסוים. אלו כמובן שני דברים שונים, והעובדה ששליש מהזיכרון שלכם זמין עכשיו לא אומרת שהוא זמין 95% מהזמן. אבל היי, אל תיתנו לעובדות להרוס בדיחה טובה. ויש עוד כמה פרטים נחמדים שקיי הכניס לפרויקט. לפי עמוד ה-GitHub שלו, הכלי כולל 8 כותרות אפשריות למיילים, 10 נוסחים שונים ו-6 חתימות, כך שיש לא מעט שילובים אפשריים. הוא גם כולל 14 בדיקות אוטומטיות, ושומר את נתוני השימוש בזיכרון בקובץ CSV. קיי אפילו מסביר מדוע בחר לכתוב אותו ב-Bash ולא באמצעות Electron: גרסה שמבוססת על Electron הייתה כנראה פותרת את בעיית הזיכרון הפנוי פשוט על ידי צריכת כל ה-RAM בעצמה. גאון, כבר אמרנו?
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.