למה פתאום הבית הלבן רוצה לראות את המודלים לפני שהם יוצאים?
בחודש שעבר מערכת אחת של אנתרופיק, שנקראת קלוד מיתוס, סרקה קוד פתוח ברחבי האינטרנט ומצאה יותר מ-10,000 חורי אבטחה בדרגת חומרה גבוהה או קריטית. לא בשנה. בחודש.
ואם מודל יודע למצוא 10,000 פרצות כדי לסגור אותן, הוא יודע למצוא אותן בדיוק באותה מהירות כדי לפתוח אותן.
זאת בדיוק התמונה שעמדה לנגד עיני מי שניסח את הצו שדונלד טראמפ חתם עליו ב-2 ביוני, צו בשם יומרני למדי: "קידום חדשנות ובִּיטחון בבינה מלאכותית מתקדמת". מאחורי השם המנופח מסתתרת בקשה אחת, פשוטה ומטרידה: תנו לנו להציץ.
מה הצו באמת מבקש?
הלב של הצו הוא מנגנון אחד. לפי דיווח של סי-אן-בי-סי, חברות שמפתחות מה שהצו מכנה "מודלי חזית מכוסים" מתבקשות למסור לממשלה גישה מוקדמת אליהם, עד 30 יום לפני שהמודל מגיע לשותפים אחרים. בזמן הזה הממשלה תריץ בדיקת אבטחת סייבר, תבחן מה המודל מסוגל לעשות, ותחליט אם הוא מסוכן.
מי מחליט מה נחשב "מודל חזית מכוס"? הצו מטיל את זה על מנהל ה-NSA. שלוש רשויות, האוצר, משרד המלחמה דרך ה-NSA, והמולדת דרך סוכנות הסייבר CISA, קיבלו 60 יום כדי לבנות את המסגרת ולפתח "תהליך מדידה מסווג" שיעריך את יכולות הסייבר ההתקפיות של כל מודל. במילים אחרות: בנצ'מרק סודי שאיש מבחוץ לא יראה, שיקבע איזה מודל עובר את הסף ונכנס לרשימה.
במקביל, הצו נותן ל-CISA שלושים יום להוציא הנחיות מחייבות שיחזקו את המערכות האזרחיות של הממשלה, והאוצר אמור להקים מעין מסלקה התנדבותית עם התעשייה, שתסרוק ותסתום פרצות בתוכנה. לפי רול קול, כל החלק הזה מתואר כצעד הגנתי, לא רגולטורי.
"בהתנדבות" היא מילה שעושה הרבה עבודה
הצו חוזר ומדגיש שהכל וולונטרי. אף חברה לא חייבת למסור מודל. הטקסט אפילו אוסר במפורש על יצירת רישוי ממשלתי, אישור מראש, או היתר כלשהו לפיתוח ולשחרור של מודלים. בנוסח הרשמי בבית הלבן כתוב שחור על גבי לבן: אין כאן חובת רישוי.
וטוב שכך, אומרים מצדדי הצו. הם טוענים שזה האיזון הנכון: הממשלה מקבלת חלון הצצה ליכולות המסוכנות ביותר, בלי לחנוק את החדשנות בביורוקרטיה של אישורים. אין ועדה שמעכבת השקה של חודשים, אין טופס שצריך לחתום עליו לפני שמשחררים מודל לקוד פתוח. רק הזמנה ידידותית לשבת ולהראות מה בנית.
אבל בואו נדבר תכל'ס. כשהלקוח הכי גדול בעולם, הרגולטור הכי חזק בעולם, וגם הגוף שמחזיק בחוזי הענן והשבבים הגדולים ביותר, מבקש ממך "בהתנדבות" להראות לו את המוצר לפני כולם, כמה באמת אופציונלי זה? חברה שתסרב תמצא את עצמה מסומנת. חברה שתסכים תיכנס למסלול מועדף. ההתנדבות, בפועל, מתחילה להריח כמו ציפייה.
הצד השני של אותו מטבע
יש כאן גם זווית שקל לפספס. ניתוח הצו מראה שהוא דווקא צעד מתון יחסית למה שיכול היה להיות, ושהאלטרנטיבה, רגולציה כפויה בנוסח האירופי, הייתה מאטה את ארה"ב מול סין בדיוק ברגע הלא נכון. מנקודת מבט כזו, מסגרת התנדבותית היא פשרה חכמה: היא קונה לממשלה ידע בלי לכבול את החברות.
ויש בזה היגיון. מי שראה את מה שקלוד מיתוס עושה מבין שהיכולת לפרוץ קוד בקנה מידה תעשייתי כבר כאן, לא בעתיד. השאלה אינה אם המדינה צריכה לדעת מה המודלים מסוגלים לעשות, אלא איך היא לומדת את זה בלי להפוך לצנזור. גישה מוקדמת של 30 יום, אם היא נשארת באמת בגבולות הסייבר ולא זולגת למקומות אחרים, היא דרך סבירה לעשות את זה.
הבעיה היא המילה "אם"
לאן מכאן?
הצו מותיר שאלה אחת גדולה פתוחה: מי שומר על השומרים. ברגע שהממשלה רואה מודל 30 יום לפני המתחרים, נוצרת אסימטריית מידע ענקית. מי מבטיח שהמידע הזה משמש רק להגנה על תשתיות, ולא, נניח, להחלטה איזו חברה מקבלת חוזה ביטחוני ואיזו לא? הבנצ'מרק מסווג, ההחלטות מסווגות, והקו בין "בדיקת אבטחה" ל"יתרון תחרותי לטובים שלנו" דק מאוד.
בשנה הקרובה נראה אילו חברות מתנדבות ואילו שומרות מרחק. השמות שייכנסו ראשונים לחדר עם ה-NSA יספרו לנו הרבה יותר מהצו עצמו. כי ברגע שכמה מהגדולות יגידו כן, ה"בהתנדבות" הזו תהפוך לסטנדרט החדש, ומי שיישאר בחוץ יצטרך להסביר למה.
טראמפ חתם על צו שמבקש רשות. אבל כל מי שמכיר את האופן שבו עובד כוח יודע שבקשה מספיק גדולה כבר אינה ממש בקשה.
