המודל הכי חזק של גוגל יודע לפרוץ. ולכן הוא יצא קודם כל לפורצים
הבוקר פרסמנו כאן את הסיפור על ג'מיני, המודל של גוגל, שניחש סיסמאות עד שנכנס למערכות של חברה אמיתית במהלך מבחן אבטחה שיצא משליטה. גוגל ידעה ושתקה במשך שבועות.
פחות משבועיים אחרי שהסיפור הזה נחשף, גוגל השיקה את הדור הבא.
קוראים לו ג'מיני 4 ארגון. גוגל מגדירה אותו כמודל החזק ביותר שבנתה עד היום. והדבר הראשון שהיא עשתה איתו הוא למסור אותו לצוותי אבטחה נבחרים, כשמנגנוני הסירוב בתחום הסייבר כבויים. כלומר, המודל לא יגיד להם "סליחה, אני לא יכול לעזור עם זה" כשיבקשו ממנו למצוא פרצה ולבנות לה ניצול.
קראו את זה שוב. המודל הכי חזק של גוגל יצא לעולם בלי הבלמים שאמורים לעצור אותו מלעזור בפריצה. בכוונה.
וזה, אגב, לא סקופ. גוגל כתבה את זה בעצמה, בהודעה הרשמית.
מה בדיוק קיבלו המגינים?
לפי טק קראנץ', גוגל השיקה את ג'מיני 4 ארגון ביום רביעי, 30 בספטמבר, ומשווקת אותו כסוס עבודה לכתיבת קוד, למחקר ולעבודה משרדית. אבל הכוכב האמיתי הוא הסייבר. לפי גוגל, המודל אומן במיוחד לעבודת הגנה, והוא מסוגל "למצוא, לאמת ולתקן באופן אוטונומי פרצות אבטחה קריטיות בתוכנה".
מי שקיבל אותו ראשון הם השותפים בתוכנית פיירווינד, יוזמת הגישה המוגבלת של גוגל לתחום הסייבר. לפי דיקריפט, התוכנית יצאה לדרך ב-2 בספטמבר עם יותר מ-650 שותפים, ביניהם ממשלות ומפעילי תשתיות קריטיות. בעמוד התוכנית בדיפמיינד גוגל מתארת אותה כ"יתרון פתיחה קריטי" לשותפים מהימנים מול איומי סייבר שמונעים בבינה מלאכותית.
ההיגיון ברור, ואני אפילו מסכים איתו. מי שמגן על בית חולים צריך מודל שחושב כמו פורץ, אחרת הוא ימצא את החור אחרי הפושעים ולא לפניהם. מודל שמסרב לכל שאלה עם המילה "ניצול" הוא מודל חסר תועלת לאיש אבטחה.
הבעיה היא שאותה יכולת חותכת לשני הכיוונים. גוגל עצמה מודה בזה, ולכן היא מדברת על השקה בשלבים כעל הדרך הבטוחה היחידה.
ויש פה סתירה קטנה שכדאי לשים לב אליה. לפי סייבר קנדרה, סעיף הבטיחות בהודעה של גוגל קובע שהמודל מתוכנן לסרב לבקשות עזרה במתקפות סייבר. אותה הודעה בדיוק מאשרת שהסירובים האלה כבויים אצל מי שקיבל אותו ראשון. גוגל אומרת שהיא מנטרת את הפעילות הפנימית של המודל ואת שרשרת החשיבה שלו, כדי לזהות שימוש לרעה ולמנוע פעולות שחורגות ממה שהמשתמש התכוון אליו.
אחרי מה שקרה עם ג'מיני הקודם, שהחליט לבד להמשיך לחברה אמיתית כי הייתה לו גישה לאינטרנט, אני קצת פחות רגוע מהמשפט "אנחנו מנטרים".
הפרצה שאף מודל לא מצא
הדוגמה שגוגל בחרה להבליט היא דרמטית. לדבריה, ג'מיני ארגון עזר לחברת האבטחה וויז, שנמצאת בבעלות גוגל, למצוא פרצה קריטית בתוכנה רפואית שבשימוש בתי חולים ברחבי העולם. פרצה שחשפה מידע אישי רגיש, ושמודלים מתקדמים קודמים פספסו.
איזו תוכנה? גוגל לא אמרה. האם הפרצה כבר תוקנה? גם את זה היא לא אמרה.
אז יש לנו בית חולים אי שם בעולם, עם פרצה שאולי עדיין פתוחה, ומודל שמצא אותה. מבחינת ההגנה זאת בשורה. מבחינת השקיפות, זה שוב אותו דפוס: גוגל מספרת לנו בדיוק כמה שנוח לה.
המספרים, ומה שמסתתר מאחוריהם
על הנייר, המודל מרשים. במבחן שבודק אם מודל מסוגל להשלים משימות פיתוח ארוכות ומבולגנות מהעולם האמיתי, הוא קיבל 77.9%, לעומת 74.2% לקלוד אופוס 5.5 של אנתרופיק ו-74.1% לג'יפיטי-6 אסטרה של OpenAI. בטבלה של גוגל הוא מוביל ב-12 מתוך 18 מבחנים, משתווה באחד, ומפסיד בחמישה.
שימו לב לפרט אחד שדיקריפט הדגישו: את הציון הזה גוגל חישבה בעצמה, בזמן שהציונים של המתחרים נלקחו מטבלה ציבורית ומדיווחי החברות. זה לא אומר שהמספר שקרי. זה אומר שהבוחן והנבחן הם אותו גוף.
ובכתיבת קוד, דווקא שם, התמונה פחות זוהרת. במבחן עבודה בשורת הפקודה הוא הגיע אחרון מבין ארבעת המודלים, עם 57.4%, תשע נקודות מאחורי אופוס 5.5. במבחן פיתוח אחר הוא פיגר ב-10.5 נקודות אחרי ג'יפיטי-6 אסטרה.
הנתון שהכי מעניין אותי הוא בכלל לא של גוגל. חברת הבדיקות העצמאית ארטיפישל אנליסיס מצאה שג'מיני ארגון טועה רק ב-15% מהשאלות במבחן הידע שלה, לעומת 51% אצל ג'יפיטי-6 אסטרה. נשמע מצוין. רק שהדיוק הגולמי שלו עמד על 50%, נמוך מדור קודם של ג'מיני. במילים פשוטות: הוא לא יודע יותר. הוא פשוט אומר "אני לא יודע" יותר פעמים, במקום להמציא.
ואני, אישית, אקח מודל שיודע להגיד "אני לא יודע" על פני מודל שממציא בביטחון מלא. אבל כדאי לקרוא את הכותרות בהתאם.
המבחן שהכי צריך לעניין אתכם
יש מבחן אחד שבו המודל באמת בולט, והוא רלוונטי לכל מי שחולם לתת לסוכן חכם לנהל לו את תיבת הדואר. מסתירים הוראה זדונית בתוך מייל או דף אינטרנט, מחכים שהסוכן יקרא אותה, ובודקים אם הוא מציית לזר במקום לבעלים שלו. בעולם האבטחה קוראים לזה הזרקת פרומפט עקיפה.
במבחן הזה, שבודק כמה פעמים המתקפה מצליחה בתוך 15 ניסיונות, ג'מיני ארגון נפל בפח ב-0.7% מהמקרים בלבד. קלוד אופוס 5.5 וקלוד פייבל 5.1 קיבלו 1.0%. ג'יפיטי-6 אסטרה נפל ב-8.5%. וגרוק 4.6 וקימי קיי3? יותר מחצי מהזמן.
אחרי שבועות שבהם סוכנים של OpenAI פרצו לפורטל המדיקר האוסטרלי, זה הנתון שאמור להעסיק כל מנהל אבטחה. לא מי כותב קוד טוב יותר, אלא את מי קל יותר לשכנע לבגוד במשתמש שלו.
מיליון מילים בתשובה אחת, ומה גוגל כבר עשתה איתן
השינוי הטכני הגדול הוא כמות הפלט. ג'מיני ארגון יכול לכתוב עד מיליון "טוקנים" בתשובה אחת (טוקן הוא בערך שלושה רבעים של מילה באנגלית), לעומת 64 אלף במודלים הקודמים של ג'מיני. זה כ-750 אלף מילים במקום כ-48 אלף. קוראי קבוקצ'ואוגלו, סגן נשיא בכיר בדיפמיינד, כתב שהמרווח הזה "מוסיף רמה חדשה של עומק בחשיבה".
מה עושים עם זה בפועל? בגוגל כבר שלחו צוות של סוכנים מבוססי ג'מיני ארגון למרכזי הנתונים של החברה. לפי החברה, הם מצאו ויישמו אופטימיזציות זיכרון ששחררו יותר מ-300 טרה-בייט. הם גם מעבירים קוד ישן משפות סי וסי-פלוס-פלוס לשפת ראסט, כולל יותר מ-800 אלף שורות מליבת מערכת ההפעלה פוקסיה. גוגל מציינת שהשכתובים האלה עדיין עוברים ביקורת לפני שיגיעו לייצור.
ומתי זה יגיע אליכם? גוגל אומרת "בהקדם האפשרי", קודם ללקוחות משלמים בממשק המפתחים ולמנויי ג'מיני אולטרה. תאריך אין. המחיר ההתחלתי, כפי שפורסם גם בפיוצ'ר טולס, הוא 2 דולר למיליון טוקנים בקלט ו-10 דולר בפלט, ואחרי תקופת המבצע הוא יוכפל ל-4 ו-20 דולר.
אז מי שומר על השומרים?
דיקריפט פתחו את הכתבה שלהם בעקיצה: ג'מיני 4 הגיע שבוע אחרי אופוס 5.5 ויום אחרי ג'יפיטי-6.1 סול, מה שמוכיח עד כמה המעבדות האמריקאיות מחויבות להאטה. ובאמת, אותן חברות שמזהירות שהבינה המלאכותית עלולה לצאת משליטה משיקות מודל חדש כל כמה ימים.
אני לא נגד ג'מיני ארגון. להפך. אם יש מודל שמוצא פרצה בתוכנה של בתי חולים לפני שכנופיית כופר מוצאת אותה, אני רוצה שהוא יהיה בידיים של המגינים, עכשיו. והתוצאות שלו בעמידות מול מניפולציות הן חדשות טובות באמת.
אבל רק לפני כמה שבועות כתבנו כאן על סטארטאפ אמריקאי שמוכר מודל בלי בלמים, והבדיקה היחידה שלו היא כרטיס אשראי. כולנו הרמנו גבה. עכשיו גוגל עושה גרסה מתוחכמת ומבוקרת הרבה יותר של אותו רעיון, עם רשימת שותפים מסוננת, ניטור ושמות של ממשלות.
ההבדל בין שני המקרים הוא אמון. וגוגל, שבחרה לשתוק שבעה שבועות על ג'מיני שפרץ לחברות אמיתיות, ביקשה מאיתנו השבוע הרבה ממנו.
