שנה אחרי שדיפסיק הדהימה את העולם, היא חזרה עם V4
בינואר 2025 קרה משהו שאנשים בסן פרנסיסקו לא ציפו לו: חברת AI סינית שחררה מודל שעלה לה אחוז קטן ממה שהוציאו OpenAI ומטא, והציג ביצועים ברמה שווה למיטב המודלים שהאמריקאים יצרו. הסינים, אגב, לא הורשו לרכוש את שבבי אנבידיה העוצמתיים ביותר. שוק המניות רעד. ג'נסן הואנג מאנבידיה כינה את זה "כוח מחשוב קוד פתוח רב-עוצמה". אנשים בתעשייה קראו לזה "רגע דיפסיק".
אתמול דיפסיק חזרה, עם V4. ולפחות בדבר אחד הם שמרו על ההבטחה שלהם.
מה בפנים?
שני מודלים יצאו בתצוגה מקדימה: V4-Flash ו-V4-Pro. פרו הוא מפלצת, 1.6 טריליון פרמטרים בסך הכל. אבל בכל שאילתה רק 49 מיליארד מהם פעילים, בזכות ארכיטקטורת MoE, שמאפשרת לבנות מודל ענק מבלי להריץ אותו כולו בכל פעם. חלון הקשר: מיליון טוקן. כל קוד הפרויקט שלכם? הכניסו אותו בפרומפט אחד.
בבנצ'מארק Codeforces, המדד הסטנדרטי לפתרון בעיות אלגוריתמיות, V4-Pro הגיע לדירוג 3,206. זה מקום 23 בין המתכנתים האנושיים בתחרות. כן, בין בני האדם.
ועכשיו המחיר, שזה בעצם מה שכולם באו לראות: פלאש עולה 14 סנט למיליון טוקן קלט, ו-28 סנט לפלט. פרו עולה 1.74 דולר קלט ו-3.48 פלט. ג'יפיטי-5.5, שיצאה אתמול, עולה 5 דולר קלט ו-30 דולר פלט. כלומר, פרו של דיפסיק זול פי שלושה מג'יפיטי-5.5 בקלט, ופלאש זולה ממנה בערך פי 36.
הסיפור שמאחורי השבבים
יש כאן זווית שכדאי לשים אליה לב: V4 מגיע עם אינטגרציה הדוקה לשבבי Ascend של Huawei. זה לא פרט טכני שולי. ארה"ב הטילה סנקציות שמונעות ממדינות כמו סין לרכוש שבבי אנבידיה מהדור האחרון. תגובת הסינים: לבנות שרשרת אספקה עצמאית.
דיפסיק לא ממתינה שהסנקציות יוסרו. היא עובדת עם מה שיש לה, ועם מה שסין מייצרת בעצמה. מה שנראה כהגבלה הפך להיות תמריץ לבנות תשתית עצמאית.
אז האם V4 מחליף את ג'יפיטי-5.5?
לא בדיוק. על פי הבנצ'מארקים, V4-Pro נמצא אחרי המודלים המובילים בטווח של שלושה עד שישה חודשים מבחינת יכולות. לא אותה רמה.
אבל זה המחיר שמשנה את התמונה. עבור מפתחים שבונים מוצרים, שמריצים מיליוני שאילתות ביום, שצריכים לחשב עלויות, פרו של דיפסיק הוא אופציה אמיתית. שנה אחרי "רגע דיפסיק" של 2025, השאלה כבר לא "האם הסינים יכולים להתחרות?" אלא "האם מחיר הוא מספיק כדי לנצח?"
