בנובמבר 2024 מירה מוראטי עזבה את OpenAI, החברה שהיא עצמה עזרה להוביל כמנהלת הטכנולוגיה הראשית שלה. תוך שבועות היא גייסה מיליארד דולר לסטארטאפ חדש בשם Thinking Machines Lab. ואז, כמעט כלום. שנה וחצי של שקט כמעט מוחלט, בזמן שכל שאר עולם הבינה המלאכותית צעק בקול רם על כל מודל חדש שיצא לו מהתנור.

בשבוע שעבר זה נגמר. Thinking Machines שחררה את המוצר המסחרי הראשון שלה, מודל שפה בשם אינקלינג. ומה שהיא סיפרה תוך כדי, על התהליך ועל הפילוסופיה שמאחוריו, מסביר יפה מאוד למה השתיקה הארוכה הזו לא הייתה מקרית.

מודל ענק שאף אחד לא מנסה למכור לכם כצ'אטבוט

אינקלינג הוא מודל מסוג תערובת מומחים (Mixture of Experts) עם 975 מיליארד פרמטרים בסך הכל, כשבפועל כל בקשה משתמשת רק ב-41 מיליארד מהם. זו שיטה נפוצה שמאפשרת למודל ענק לרוץ מהר וזול יותר. הוא אומן על 45 טריליון טוקנים של טקסט, תמונות, שמע ווידאו, ותומך בחלון הקשר של עד מיליון טוקנים.

אבל המספר המעניין באמת הוא לא כמות הפרמטרים. הוא ההחלטה לשחרר את כל המשקלים בקוד פתוח.

בזמן שאופן-איי, אנתרופיק וגוגל מוכרות גישה מדודה למודלים סגורים דרך ג'יפיטי, קלוד וג'מיני, מוראטי ושותפיה בחרו בדרך ההפוכה לגמרי. כל מי שרוצה יכול להוריד את אינקלינג, לשנות אותו, ולהריץ אותו על השרתים שלו. Thinking Machines אפילו מודה בגלוי שאינקלינג "אינו המודל החזק ביותר הקיים היום, לא סגור ולא פתוח". זו לא טעות בשיווק. זו בדיוק הנקודה.

ההימור: לא כולם צריכים את אותו המוח

הרעיון המרכזי של Thinking Machines הוא שמודל אחיד שכל הארגונים משתמשים בו, כפי שהוא, בלי שינוי, פשוט לא מנצל את מלוא הפוטנציאל. מומחיות עסקית ספציפית, לדברי החברה, שייכת לאנשים שמחזיקים בה, לא ללקוחות שרק שולחים פרומפטים ומקבלים תשובות גנריות.

זו לא רק תיאוריה. פחות משבוע לפני שחרור אינקלינג, מנכ"ל מיקרוסופט סאטיה נאדלה פרסם אזהרה לפיה חברות שמשתמשות במודלים קנייניים משלמות פעמיים: פעם אחת במחיר המנוי, ופעם שנייה כשהידע העסקי שלהן, שמוטמע באלפי הפרומפטים והתיקונים שהן שולחות, נספג חזרה למודל של החברה שמכרה להן את הגישה.

מנכ"ל האגינג פייס, קלם דלנג, אמר משהו דומה בשבוע שעבר. לדבריו, מודלי החזית ישמשו בעיקר לניסויים ולמשימות בעלות ערך גבוה, בזמן שרוב עבודת הייצור בפועל תעבור למודלים פרטיים או פתוחים. בדיוק הפיצול ש-Thinking Machines בונה סביבו.

ההוכחה הכי חדה לטיעון הזה הגיעה מפרויקט משותף עם ברידג'ווטר אסושייטס, קרן הגידור הגדולה בעולם. חוקרים משתי החברות לקחו מודל קוד פתוח קיים ואימנו אותו נוסף על המומחיות הפיננסית של ברידג'ווטר. התוצאה: ציון של 84.7% במבחני היגיון פיננסי, טוב יותר ממודלים קנייניים מובילים, ובעלות של בערך אחד חלקי ארבע-עשרה מהמחיר. חשוב לומר שהתוצאות האלה, שפורסמו בסוף יוני, מגיעות מהערכה פנימית של שתי החברות ולא מבדיקה עצמאית.

המודל מכייל את עצמו, תרתי משמע

בהדגמה שפרסמה Thinking Machines, אינקלינג התבקש לכייל את עצמו מחדש כך שלעולם לא ישתמש באות "e" באנגלית, סוג של תרגיל ליפוגרמה קלאסי שאי אפשר להשיג רק על ידי בקשה בפרומפט. המודל כתב לבד את תוכנית האימון הנוסף, בנה את מבחני ההערכה, הריץ את התהליך על הפלטפורמה של החברה שנקראת טינקר, וטען את המשקלים החדשים בחזרה. תוך דקות היה לו מודל חדש שמדבר בלי האות הכי נפוצה בשפה האנגלית.

זו לא סתם תעלול. זו בדיוק ההדגמה שהחברה רצתה להראות: לקוח יכול לקחת את אינקלינג ולכוון אותו למשימה ספציפית מאוד, בעצמו, בלי לחכות שמעבדת בינה מלאכותית תשחרר גרסה מעודכנת.

איפה אינקלינג עומד מול המתחרים?

Thinking Machines בדקה את אינקלינג גם מול מודלים אחרים בזירת דיזיין ארנה, לוח דירוגים שבו שופטים אנושיים משווים בין אפליקציות אינטרנט שנוצרו על ידי מודלים שונים, בלי לדעת איזה מודל יצר מה. אינקלינג קיבל דירוג 1257 שם, מול 1333 של קלוד סונט 5 ו-1260 של ג'יפיטי-5.6 סול. חשוב להבין שזה לא מיקום בטבלה אלא דירוג בסגנון שחמט, מהסוג שמחשב הסתברות ניצחון מתוך אלפי השוואות ראש בראש עיוורות. מודל עם 1257 לא "נמצא במקום השביעי". הוא פשוט מנצח לעתים קרובות יותר מודלים עם דירוג נמוך משלו, ומפסיד יותר למודלים עם דירוג גבוה משלו.

בתחומים אחרים, כמו הבנת קול ותמונה, אינקלינג מתחרה בכבוד מול מודלים סגורים כמו ג'מיני 3.1 פרו, אבל לא עוקף אותם. בבטיחות, לעומת זאת, הוא דורג הכי גבוה מבין כל המודלים הפתוחים שנבדקו מול ניסיונות התחמקות מהנחיות.

מה שנשאר בצל

חלק מהסיפור נשאר לא ברור בכוונה. Thinking Machines לא חושפת כמה היא מוציאה על אימון, ולא הבהירה מה קרה עם דיווחים על סבב גיוס של 50 מיליארד דולר שאמור היה להיסגר בנובמבר האחרון ולפי כמה כלי תקשורת נתקע בינואר. החברה חתמה על שותפות עם אנבידיה במרץ, כולל השקעה שאנבידיה מכנה "משמעותית", ואימנה את אינקלינג כולו על מערכות GB300 שלה.

מספר העובדים התייצב סביב 200, אחרי גל עזיבות בתחילת השנה שכלל שני שותפים מייסדים שעברו לאופן-איי-איי. ולמרות שכל הסיפור התקשורתי סביב החברה קשור בשם אחד, מוראטי, מקור בחברה מתאר תרבות שמכוונת בכוונה נגד פולחן אישיות. אין דגש על מי בדיוק בנה מה. יש רק המוצר.

זו בחירה מעניינת לחברה שנולדה כי אישה אחת עזבה חברה ענקית והחליטה לבנות אחרת. אבל אם ההימור שלה נכון, ואם ארגונים באמת רוצים לבעלות על המוח שהם משתמשים בו ולא רק לשכור אותו, אולי זה בדיוק הכיוון ההפוך שהתחום צריך.

הפוסט מירה מוראטי שתקה שנה וחצי. עכשיו יש לה תשובה הופיע לראשונה ב-Ai Samurai.