OpenAI סגרה את המנוי היקר שלה. אין מספיק חשמל
יש רגע נדיר בעולם העסקים שבו חברה מסתכלת על אדם שמנופף בכרטיס אשראי ואומרת לו: לא, תודה. לא עכשיו. תחזור אחר כך.
ביום חמישי OpenAI הגיעה לרגע הזה. מנוי הפרו שלה, זה שעולה 200 דולר בחודש והוא היקר ביותר שהחברה מוכרת לצרכן פרטי, נסגר להרשמות חדשות. מי שכבר מנוי נשאר בפנים. מי שרצה להצטרף מגלה כפתור מנוטרל.
הסיבה איננה תקלה, ואיננה שינוי אסטרטגי. פשוט נגמרה החומרה.
"לא ראיתי דבר כזה עד היום"
את ההודעה פרסם טיבו סוטיו, מנהל המוצר של OpenAI, שאחראי בין השאר על קודקס ועל צ'אט-ג'יפיטי. לדבריו, דווקא מנויי הפרו מעמיסים על המערכות יותר מכל שכבה אחרת, ולכן הם הראשונים שנחסמו.
"רצינו לנקוט בצעד הקטן ביותר שמאפשר לנו להמשיך לתת את הגישה הרחבה ביותר", כתב. שאר התוכניות, כולל הממשק למפתחים והמנויים הזולים יותר, נשארו פתוחות.
יום לפני כן הוא כבר הכין את הקרקע: "הביקוש לאסטרה הוא חסר תקדים ממש. אנחנו מושכים בכל ידית אפשרית כדי לעמוד בו, אבל לא ראיתי דבר כזה עד היום, ועברנו בעבר צמיחה תלולה מאוד". טק קראנץ' דיווח שהחברה לא מסרה כמה זמן החסימה תימשך, ולא כמה נרשמים חדשים היא מקבלת ביום.
שימו לב לתזמון. רק בחודש שעבר OpenAI הגדילה את מכסות השימוש למשתמשי קודקס. חברה לא מרחיבה מכסות אם היא צופה מחנק תשתיתי בעוד חמישה שבועות. מה שקרה כאן קרה מהר, והפתיע גם את מי שאמור היה לחזות אותו.
מה בעצם שבר את השרתים?
אסטרה יצאה לאוויר בשלושה בספטמבר, והחברה מכרה אותה כקפיצת מדרגה דורית. חשיבה, כתיבת קוד, ובעיקר שימוש במחשב ובדפדפן, תחום שבו OpenAI טענה ל"חזית חדשה" של מהירות ודיוק. גרג ברוקמן, נשיא OpenAI, אמר שהוא אישית חושב שהגענו לבינה כללית, ובאותה נשימה הבהיר שזה כבר לא מושג חוזי אלא מושג רוחני. זה כמובן לא הזיק לביקוש.
וכאן נמצא ההסבר האמיתי לעומס, והוא לא כמות המשתמשים.
מודל שעונה לשאלה צורך חישוב לכמה שניות. מודל סוכן שמפעיל דפדפן, לוחץ, ממתין לטעינה, קורא, מחליט, ומנסה שוב, יושב על המשאבים דקות ארוכות. לפעמים שעות. ההבדל בין השניים איננו של עשרות אחוזים, הוא של סדרי גודל. וכשמנויי הפרו הם בדיוק אלה שמריצים סוכנים במקביל כל היום, אתה מקבל בדיוק את התמונה שסוטיו תיאר.
הבינה המלאכותית עברה משיחה לעבודה. חשבון החשמל עבר איתה.
ותחשבו רגע על הכלכלה של זה. מנוי בסכום קבוע עובד מצוין כשהשימוש הממוצע צפוי. הוא נשבר ברגע שהמשתמש הכבד ביותר צורך פי מאה מהמשתמש הרגיל, ומשלם בדיוק אותו מחיר. 200 דולר בחודש עבור סוכן שרץ שמונה שעות ביום הם עסקה מצוינת למשתמש וקטסטרופה לספק. OpenAI לא סגרה את המנוי היקר שלה רק בגלל שרתים. היא סגרה אותו כי הוא הפך למוצר ההפסדי ביותר בקטלוג.
ההיגיון הזה מסביר גם למה דווקא הממשק למפתחים נשאר פתוח. שם משלמים לפי שימוש. מי שמריץ יותר, משלם יותר. אין הפתעות.
מי שנשאר בחוץ, ומה זה אומר לכם
אני מכיר לא מעט אנשים בישראל שבנו את יום העבודה שלהם סביב המנוי הזה. מפתחים, קריאייטיבים, יועצים. עבורם 200 דולר בחודש הם לא בזבוז אלא הוצאה תפעולית זולה. עכשיו הם מגלים שהם לא יכולים לקנות אפילו אם הם רוצים.
וזו הנקודה שכדאי להפנים: הגישה למודלים החזקים ביותר הפסיקה להיות שאלה של כסף. היא הפכה לשאלה של מלאי.
מי שנרשם מוקדם נמצא בפנים. מי שהתלבט חודש נשאר בחוץ, ולא ברור לכמה זמן. חברות שבנו תהליכי עבודה שלמים על ההנחה שאפשר תמיד להוסיף עוד מושב, מגלות שההנחה הזו לא תקפה. זה תקף גם בכיוון השני: כשהמדען הראשי של החברה ביקש להאט, שלושה ימים אחרי ההשקה, אולי הוא לא דיבר רק על בטיחות.
וזה נכון גם בכיוון ההפוך. אם אתם שוקלים עכשיו להיכנס לפרו ולא הצלחתם, אל תרוצו לפתוח חשבון של מישהו אחר. תוכניות המנוי הזולות יותר קיבלו את אסטרה גם הן, והפער בפועל הוא בעיקר במכסות ובמקביליות, לא בחוכמה של המודל. רוב האנשים שקנו פרו לא באמת צריכים אותו.
ההשלכה המעשית פשוטה. אל תשעינו תהליך קריטי בעסק על ספק יחיד שיכול לסגור את הברז בציוץ. עבודה עם שני מודלים במקביל נראתה עד השבוע כמו פינוק של חובבי טכנולוגיה. היא נראית עכשיו כמו ניהול סיכונים בסיסי.
לפי דיווח של בלומברג שמיקרוסופט לא אישרה, החברה מתכננת לשלש את קיבולת מרכזי הנתונים שלה ליותר מ-38 גיגה-וואט עד 2032. אורקל דיווחה על צבר הזמנות של 664 מיליארד דולר. והפנטגון מנהל מגעים להלוואה של כחמישה מיליארד דולר לסטארטאפ הענן פלואידסטאק, כדי לחזק את שרשרת האספקה של מרכזי הנתונים האמריקאיים. כל אלה לא נבנים בשבוע, וגם לא בשנה.
בינתיים, החברה שהבטיחה בינה מלאכותית לכולם מסמנת לחלק מהתור שהערב הזה מלא.
יש בזה משהו כמעט מרגיע. במשך שלוש שנים שמענו שהבינה המלאכותית היא כוח בלתי מוגבל שאין לו קצה. ואז התברר שיש לה קצה, והוא עשוי מנחושת, בטון וטורבינות גז.
השאלה היא רק מי יגיע לשם ראשון, ומי ימתין בחוץ עם הכרטיס ביד.
