באג בן 23 שנה ישב במערכת ההפעלה. אף מהנדס לא ראה אותו
הוא היה שם מאז 2003. חור זיכרון מסוג use-after-free בליבת OpenBSD, אחת ממערכות ההפעלה שנחשבות לבטוחות בעולם, כזו שמריצים עליה שרתים שלמים בדיוק כי היא בנויה בקפדנות אובססיבית. עשרים ושלוש שנה הוא נשאר חבוי מתחת לאף של כולם. ואז, בשבוע שעבר, מודל של OpenAI מצא אותו תוך כדי סריקה שגרתית.
זה לא קרה במקרה. ב-22 ביוני הרחיבה OpenAI את תוכנית האבטחה שלה, Daybreak, והשיקה כמה דברים במכה אחת: את הגרסה המלאה של מודל בשם ג'יפיטי-5.5 סייבר, תוסף בשם Codex Security, ויוזמה עם שם שאפתני במיוחד: Patch the Planet. לתקן את כדור הארץ. הם לא מתכוונים לאקלים. הם מתכוונים לקוד.
הצוואר הצר זז ממקומו
עד היום הסיפור בתחום האבטחה היה תמיד אותו סיפור: קשה למצוא חורים. צריך האקרים מוכשרים, חוקרים, אנשים שיודעים לחשוב כמו תוקף. OpenAI טוענת שהמשוואה הזו התהפכה. לפי דיווח של SiliconANGLE, המודלים שלה מוצאים פגיעויות מהר יותר ממה שצוותי האבטחה מצליחים לתקן. הצוואר הצר כבר אינו הגילוי. הוא התיקון.
וכאן נכנס הנתון שמסביר את כל המהלך. OpenAI ציטטה מחקר של קרן לינוקס והרווארד: ב-94% מפרויקטי הקוד הפתוח הנפוצים, פחות מעשרה מפתחים אחראים על יותר מ-90% מהקוד שנכתב בשנה. כלומר, התשתית שעליה רץ חצי מהאינטרנט מתוחזקת על ידי קומץ אנשים, לא פעם מתנדבים, בזמנם הפנוי.
עכשיו תזרקו עליהם בינה מלאכותית שמייצרת דוחות באגים בקצב תעשייתי. מה תקבלו?
לא אבטחה טובה יותר. ערימה גדולה יותר.
מה זו בעצם Patch the Planet
היוזמה נבנתה יחד עם חברת האבטחה Trail of Bits ובשיתוף HackerOne. הרעיון פשוט: לממן חוקרי אבטחה אנושיים, לצייד אותם בכלים ובמודלים של OpenAI, ולשלוח אותם לעבוד ישירות מול מתחזקי הפרויקטים. יותר מ-30 פרויקטים כבר הצטרפו, ביניהם cURL, השפה Go, פייתון, Sigstore ו-pyca/cryptography. שמות שלא אומרים כלום לרוב האנשים, אבל אם הם נופלים, חצי מהשירותים הדיגיטליים שאתם נוגעים בהם מדי יום נופלים איתם.
החלק החשוב נמצא בפרטים הקטנים: מהנדס אבטחה אנושי עובר על כל ממצא לפני שהוא מגיע למתחזק. זו בדיוק התשובה לבעיית הערימה. בלי הסינון האנושי, המתנדב שמתחזק ספרייה קריטית היה טובע באלף התראות אוטומטיות וסוגר את המחשב בייאוש.
הספרינט הראשון ארך חמישה ימים. התוצאה: מאות בעיות שזוהו, עשרות תיקונים שמוזגו לתוך הקוד, וכלי בדיקה לשימוש חוזר שהפרויקטים ימשיכו להשתמש בהם גם אחרי שהחוקרים יעזבו. Trail of Bits רתמה את כל מחלקת המחקר שלה ופרסה אותה על פני 19 פרויקטים.
ומה המודל באמת מצא שם
זה החלק שמרשים ומדאיג בדיוק באותה מידה. מעבר לבאג של OpenBSD, המודל סימן בשירות בשם dnsmasq דפוסים שתאמו ארבע מתוך שש פגיעויות שקיבלו מאוחר יותר מספרי CVE רשמיים. בכרום הוא מצא חמישה באגים נצילים במנוע הג'אווהסקריפט V8. ב-WebKit, המנוע שמריץ את ספארי, יותר מעשרה.
בפיירפוקס היה תזמון מושלם כמעט לכדי בדיחה: מוזילה תיקנה חור ב-WebAssembly שנמצא בעזרת ג'יפיטי-5.5 יומיים בלבד לפני תחרות הפריצה Pwn2Own בברלין. חמישה מתוך שישה צוותים שנרשמו לתקוף את פיירפוקס בתחרות פשוט פרשו. כנראה גילו שהחור שתכננו לנצל כבר סתום.
ועל ליבת לינוקס בנפרד: המודל סרק יותר מ-30 מיליון שורות קוד, איתר בעצמו את הרכיבים הרגישים מבחינת אבטחה, וייצר שמונה הוכחות היתכנות לדליפת מידע מהזיכרון ו-24 ניצולים שמאפשרים השתלטות והעלאת הרשאות. במילים פשוטות: הוא לא רק אמר "כאן יש בעיה". הוא בנה את הכלי שמוכיח שהבעיה אמיתית.
מבחינת המדד היבש, ג'יפיטי-5.5 סייבר מגיע ל-85.6% במבחן CyberGym, שבודק אם סוכן מסוגל לשחזר פגיעויות מוכרות. הגרסה הרגילה של ג'יפיטי-5.5 עומדת על 81.8%. הגישה למודל המלא נשמרת לידיים בטוחות בלבד, דרך תוכנית סינון בשם Trusted Access for Cyber.
וזו לא הרצה חד-פעמית לצורך כותרת. מאז שהתוסף יצא בגרסת מחקר במרץ, הוא סרק יותר מ-30 מיליון עדכוני קוד על פני יותר מ-30 אלף מאגרים, ומתקנים אנושיים כבר סימנו יותר מ-70 אלף ממצאים כמתוקנים. זו כבר לא הדגמה מרשימה ביום השקה. זו מכונה שרצה ברקע כל הזמן, סורקת את התשתית שכולנו תלויים בה בלי שנדע על קיומה.
הקטע שאף אחד לא אומר בקול
אי אפשר להבין את הצעד הזה בלי להסתכל על מי שיושב ממול. לפני כמה שבועות השיקה אנתרופיק את Project Glasswing, מהלך כמעט זהה: לשלוח את קלוד לצוד באגים בתשתיות קריטיות, לבנות אמון מול ממשלות, ולהפוך לחברה חיונית מכדי שמישהו יעז לסגור אותה. ואז, ב-12 ביוני, ממשלת ארה"ב חסמה את המודלים החדשים של אנתרופיק בצו פיקוח ייצוא, והם ירדו מהאוויר לשישה ימים.
OpenAI ראתה את החלון ונכנסה בו בלי להסס. ההיגיון ברור: אבטחת סייבר היא השימוש הכי קל להגנה פוליטית בכל תחום הבינה המלאכותית. קשה לקטרג על חברה שמתקנת חורים בתשתית הלאומית. במקביל, OpenAI חתמה בחודש האחרון על הסכמי Trusted Access עם אוסטרליה, קנדה, צרפת, גרמניה, יפן, דרום קוריאה ומוסדות האיחוד האירופי. וכדי שלא יישאר ספק מי משחק כאן, שותפות ההשקה כוללות את Accenture, Cisco, CrowdStrike, IBM, Okta, Palo Alto Networks ו-Wiz.
זו לא רק תוכנית אבטחה. זו תעודת ביטוח מפני היום שבו מישהו בוושינגטון יחליט שהמודלים מסוכנים מדי.
אז מה יוצא מזה?
הבאג בן 23 השנה ישב בשקט שני עשורים כי אף בן אדם לא חשב להסתכל בדיוק שם. עכשיו יש מכונה שמסתכלת בכל מקום בו-זמנית, כל הזמן, על כל שורת קוד פתוח בעולם. כשהיא בידי המגינים, אלו החדשות הטובות ביותר שתחום האבטחה שמע מזה שנים.
השאלה הלא נוחה היא מה קורה ביום שבו בדיוק אותה יכולת תיפול לידיים אחרות. וזה כבר לא תרחיש דמיוני. זה רק עניין של מי מגיע לשורת הקוד ראשון.
