"תוכנה שמשפרת את עצמה": הסטארטאפ doubleAI של אמנון שעשוע חושף קטגוריה חדשה של מודלים
הפיתוח של DoubleAI הישראלית יכול להחליף קוד איטי בגרסאות מהירות מבלי לגעת בקוד המקור
אמנון שעשוע. צילום: לירן לוינוביץ
השילוב של AI בתהליכי פיתוח תוכנה וכתיבת קוד הוא אחד השימושים הוותיקים ביותר בתחום, אבל עד עכשיו, כלי ה-AI שימשו בעיקר כדי לסייע למפתחים לכתוב קוד שהוא מגיע לפרודקשן. עכשיו, הסטארטאפ הישראלי doubleAI חושף קטגוריה חדשה של מודלים שפועלים בשלב שונה לחלוטין. מדובר במודלים להרצת קוד, או CEMs, שממוקמים בין הקוד לבין רכיבי הסיליקון של השרתים, ופועלים באופן עצמאי לחלוטין. היום (ב') חושפת החברה את המודל הראשון שלה שנקרא Maxwell, שמבצע אופטימיזציה לתוכנות – תוך כדי הריצה שלהן.
ניתוח בזמן אמת של נתונים
הטכנולוגיה מאחורי הפיתוח מתבססת על ניתוח בזמן אמת של זרימת הנתונים והחומרה הספציפית שעליה רצה התוכנה. המודל של doubleAI מזהה צווארי בקבוק בביצועים ומייצר גרסה חדשה ומהירה יותר של הקוד. במקרה של פייתון למשל, המודל מסוגל להחליף את הקוד המקורי בקוד ברמה נמוכה יותר (כלומר קרובה יותר לשפת מכונה ולמעבד), שמאופטם ישירות למעבד. בצורה דומה, פקודות של PyTorch יוחלפו בקרנלים שעברו התאמה לכרטיס הגרפי הספציפי שמותקן בשרת.
צילום מסך
האתגר המרכזי בשכתוב קוד בזמן ריצה הוא כמובן מניעת קריסות ותקלות. כדי לפתור את זה, הפיתוח נשען על תחום מתמטי בשם אימות פורמלי. המערכת מחשבת הוכחה מתמטית ודאית לכך שהקוד החדש זהה לחלוטין מבחינה סמנטית לקוד הישן. כלומר, מובטח שבהינתן אותו קלט, הקוד המהיר ייצר בדיוק את אותה תוצאה ופעולות לוואי, ללא שגיאות.
בחברה מתגאים בכך שפריצת הדרך מתבטאת ביכולת להחיל אימות פורמלי על שפות דינמיות. שפת פייתון נחשבת למורכבת במיוחד להוכחות מתמטיות, מכיוון שמשתנים יכולים לשנות את סוגם תוך כדי הריצה. צוות הפיתוח הצליח למפות את ההתנהגות המלאה של השפה, כולל פעולות חיצוניות כמו תקשורת רשת או קריאת קבצים, ולוודא שהאופטימיזציה שומרת על התנהגות המערכת במלואה. ברגע שהוכח שהגרסה החדשה שהיא ג'ינרטה יעילה וזהה, היא משמשת כנקודת מוצא לאופטימיזציה הבאה, מה שמוביל בפועל למעין תוכנה שמשפרת את עצמה כל הזמן. כל תהליך השכתוב והחלפת הקבצים הבינאריים מתבצע מתחת לפני השטח, כך שקוד המקור שהותירו המפתחים נשאר שלם וללא כל שינוי.
תשלום על פי חיסכון
כמובן שאחד היתרונות המרכזיים הוא החיסכון העצום שניתן להשיג בעלויות המחשוב. כאן מציגה doubleAI מודל עסקי מעניין, והינא תגבה מלקוחותיה תשלום רק אם חסכו בעלויות המחשוב. כך למשל אם לקוחה תצליח לקצץ את חשבון המחשוב שלה ב-5 מיליון דולר בשנה, doubleAI תגזור מזה עמלה כלשהי. על פי הסטארטאפ, אחד מהלקוחות הראשונים שלו הצליח לקצץ למעלה מ-60 אחוז מעלויות המחשוב שלו לאחר ההתקנה של המערכת של החברה הישראלית.
הסטארטאפ doubleAI הוקם על ידי פרופסור אמנון שעשוע, וגייס מאז הקמתו 220 מיליון דולר מרשימת משקיעים בהם Lightspeed Venture Partners ו-Bessemer Venture Partners, לצד ענקיות הטכנולוגיה Nvidia ו-Dell.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.