בהשראת חתן פרס הנובל הישראלי: המודל החדש של יוצר ChatGPT הפך לוויראלי
דיוגו אלמיידה כינה את הצ'אטבוט הפופולרי בעולם "ברק בבקבוק", אך הבין שזה לא זה. לאחרונה הציג את Jev, מודל שכבר הפך סופר-פופולרי
מקור: TypeSafe AI
אנחנו רגילים שמודלי ה-AI שמשמשים אותנו היום מייצרים כמויות של טקסט, קוד, תמונות, וידאו ואפילו מוזיקה – רק תנו להם את הפרומפט הנכון (ומספיק טוקנים כמובן). מודל חדש עושה בדיוק את ההפך, ולא ייצר לכם מילה אחת או הזייה אחת. אז למה הוא בכל זאת הפך ללהיט מאז שהושק?
"כלאנו ברק בבקבוק, ועדיין הוא לא שימושי"
דיוגו אלמיידה היה חלק מצוות הפיתוח של הכלי שהתחיל את מהפכת ה-AI, הלא הוא ChatGPT, וגם של המנגנון שהפך מאז לסטנדרט בתעשייה – RLHF או למידת חיזוק עם פידבק אנושי. אבל לדבריו, "כלאנו ברק בבקבוק, ועדיין הוא לא שימושי". בעקבות התובנה הזו, אלמיידה עזב את OpenAI והקים (ביחד עם שותפים נוספים) את הסטארטאפ TypeSafe AI. לאחרונה חשפה החברה את המוצר הראשון שלה, שקיבל את השם Jev, ומהר מאוד הוא הפך ללהיט.
בניגוד למודלי השפה הענקיים שכולנו מכירים ומתמקדים ביצירת טקסט, Jev מבוסס על System One – קונספט שנשען על העקרונות של הפסיכולוג וחתן פרס נובל הישראלי, פרופ' דניאל כהנמן ז"ל. במקום חשיבה איטית ומעמיקה של System Two (כמו מרבית המודלים כיום), המערכת הזו מדמה חשיבה אינטואיטיבית ומהירה. הפיתוח הזה, ששמו מבוסס על "פרדוקס ג'בונס" כלומר התפיסה שהוזלת ה"אינטליגנציה" תוביל לזינוק בשימוש בה, לא מנסח משפטים או כותב קוד. במקום זאת, הוא מחזיר אך ורק נתונים מובנים מראש כמו בחירה מרובה, דירוג מספרי או הסתברות "מכויילת", מה שמאפשר למפתחים לקבל תשובות ללא "הזיות" ובאמינות גבוהה לשילוב ישיר בתוך הקוד שלהם.
דיוגו אלמיידה, מנכ"ל ומייסד TypeSafe AI | צילום מסך
חותך את הסרבול… והעלויות
כיום, שימוש במודלים שמייצרים טקסט עבור כל החלטה קטנה פשוט מסרבל תהליכים. Jev חותך את הסרבול הזה – הוא בוחן את המידע ופשוט מקבל החלטה. מאחורי הקלעים, המערכת אומנה בשיטה ייחודית שנקראת RLCD שנועדה לדייק הסתברויות סטטיסטיות, במקום לנסות לרצות בודקים אנושיים, מה שהופך אותה לכאורה ליותר אמינה. במקביל, ארכיטקטורת העיבוד המקבילי שלה סורקת את הנתונים פעם אחת בלבד ומחשבת תשובות למספר שאלות בו-זמנית.
התוצאה של כל זה היא מהירות מרשימה שנעה בין 70 מילי-שניות לחצי שנייה בלבד. ב-TypeSafe מסבירים שמדובר בתגובה מהירה פי 40 עד 200 בהשוואה למודל שפה קלאסי, שצריך לג'נרט מילה אחרי מילה. יתרון נוסף הוא שהמודל לא ממש הוזה, כי הוא לא מייצר כלל טקסט חדש ומסתמך רק על טקסט או קוד קיים שסיפקתם לו. במילים אחרות, אם הייתה טעות – היא כנראה בקלט שלכם.
גם בגזרת התמחור הוא מביא איתו חידוש, ואתם משלמים רק על קלט הטקסט, שנמדד כאן במיליארדי טוקנים ולא במיליונים. העלות עומדת על 0.042 דולר למיליון טוקנים בקלט, פלט חינמי לחלוטין, וחלון הקשר של 64,000 טוקנים. על פי החברה, מודלי שפה גדולים יעלו לכם פי 40 עד 400 יותר.
בלי ממשק צ'אט, אבל עם המון פוטנציאל
נשמע מבטיח, אבל חשוב לזכור ש-Jev ממש לא מיועד לכולם. אין לו ממשק צ'אט, מה שמרחיק אוטומטית את רוב המשתמשים שהתרגלו לכלים כמו קלוד או ג'מיני. כשמתחברים למערכת מקבלים מיד את ההודעה שמבהירה: "Jev מגיב בצורה של החלטות מובנות בלבד". בממשק הקוד שלו תוכלו להריץ שלוש פעולות מרכזיות: הפעולה הראשונה היא Noul, שמעריכה עד כמה אמירה מסוימת נכונה (0 עד 1); השנייה היא Score, שמדרגת תשובות על פי סקאלה לבחירתכם (כמו למשל דירוג כעס של לקוח מ-1 עד 5 מתוך מייל); והשלישית היא Choice, שבוחרת בין אפשרויות שונות לטובת ניתוב מיילים של תמיכה טכנית.
כל היתרונות האלו הפכו אותו לבחירה קלה עבור אייג'נטים אוטונומיים ומערכות ניתוב מידע ומפתחים משתמשים בו בתור "שומר סף" ראשוני שממיין אלפי אימיילים בשניות, מנתח פוסטים בזמן אמת, או אפילו מקבל החלטות במשחקי וידאו כמו Doom כמו שאתם יכולים לראות ממש כאן:
אבל מה קורה כשהמשימה דורשת יכולות שלא קיימות במודל כמו ניסוח או יותר יצירתיות? המערכת מנתבת את הבקשה הלאה אל המודלים הגדולים והיקרים יותר המוכרים לכולנו. כאן תוכלו להתנסות ב-Jev.
כמובן ש-Jev לא פועל בואקום, וכבר יש לו תחרות מחברות ענק כמו AWS עם Strands Decider 2B ו-Cloudflare עם Clef, שגם מגיע עם משקולות פתוחות ו-Decisions, ה-API החדש של OpenAI.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.