המדען שאומר שהמצאנו חול חושב
"בעצם מצאנו דרך לגרום לחול לחשוב", כתב דמיס חסאביס. "זה נס." לא כל יום מדען זוכה פרס נובל כותב את המילה הזו על הטכנולוגיה שהוא עצמו בונה. אבל חסאביס, מנכ"ל דיפמיינד ומי שעומד מאחורי ג'מיני, לא כתב את זה כדי להתרשם מעצמו. הוא כתב את זה בתוך מניפסט אישי ארוך, ובו הוא מסביר למה הוא חושב שהעולם צריך גוף פיקוח בינלאומי על בינה מלאכותית, ולמה זה צריך לקרות עכשיו, לא בעוד שנתיים.
מה הוא בעצם מציע
לפי ראיון בלעדי לאקסיוס, חסאביס מציע גוף בדיקה בסגנון פינרה, הרשות הפרטית שמפקחת על וול סטריט תחת עינה של רשות ניירות הערך האמריקאית. הרעיון: מעבדות הבינה המלאכותית המובילות ישתפו את המודלים המתקדמים ביותר שלהן עם הגוף הזה, עד שלושים יום לפני שהמודל יוצא לשוק, כדי לבדוק יכולות מסוכנות בתחומי סייבר, ביולוגיה, ואפילו "הטעיה".
בשלב הראשון זה יהיה וולונטרי. אבל חסאביס כותב במפורש שברגע שהמנגנון "יוכיח את עצמו כיעיל ואמין", המעבר להסדרה מחייבת "עשוי לקרות במהירות". במילים פשוטות: מודל שלא עבר את הבדיקה, לא ייכנס לשוק האמריקאי.
הגוף שהוא מדמיין יהיה בעל רוב חברים בלתי תלויים, כולל זוכי פרס טיורינג ומומחים אחרים, לצד נציגי תעשייה, ממשלה וקוד פתוח. והחוקים יחולו על כל מודל בדרגת "פרונטיר", בלי קשר למדינת המוצא ובלי קשר אם הוא סגור או פתוח קוד.
למה דווקא עכשיו
חסאביס לא כתב את המניפסט הזה בוואקום. הוא מצביע במפורש על אירוע אחד שקרה חודש לפני כן: הממשל האמריקאי הקפיא בפועל, בפקודת ייצוא, את המודלים החזקים ביותר של אנתרופיק, מיתוס ופייבל. אנתרופיק בילתה שבועיים וחצי במשא ומתן לשחרר אותם, בלי חוקים ברורים, בלי פרוטוקול, בלי שום דבר שדומה למשחק הוגן. לחסאביס זו הייתה "קריאת השכמה".
OpenAI, כדי להימנע מגורל דומה, בחרה מרצונה להגביל את הגישה ל-GPT-5.6 רק לשותפים שעברו בדיקת ממשל, לפני שהמודל שוחרר לציבור הרחב בשבוע שעבר אחרי משא ומתן עם משרד המסחר. כלומר גם חברות שאין להן שום סיבה לחשוש כבר מתנהגות כאילו הרגולציה כבר קיימת. הבעיה היא שהיא לא קיימת. יש רק פקודות אד הוק שיכולות לנחות בלי אזהרה.
מירוץ נגד השעון
בתוך שמונה עשר חודשים, לדברי חסאביס, יכולות מסוכנות בתחומי הסייבר, הביולוגיה והגרעין עלולות לחיות בתוך מודלים בקוד פתוח, מחוץ לשליטתה של כל ממשלה. הוא מדגיש נקודה חשובה: הסיכון האמיתי לא מגיע רק ממודלים פתוחים. הוא מגיע גם מהמודלים הקנייניים והחזקים יותר שהמעבדות הגדולות עצמן בונות עכשיו.
חסאביס לא מדבר על תרחיש רחוק. הוא כותב שאנחנו עומדים "בשולי הסינגולריות", ושהוא מעריך שבינה כללית, מודל בעל כל היכולות הקוגניטיביות של המוח האנושי, רחוקה "בסך הכל כמה שנים בודדות".
מי כבר איתו
חסאביס לא זרק את הרעיון הזה לאוויר בלי הכנה. לפי אקסיוס, הוא בילה חודשים בשיחות שקטות עם הממשל האמריקאי, מנהיגי מעבדות מתחרות, ופקידים אירופיים, עוד לפני שהמניפסט יצא לאור. "הצלילים ששמעתי חיוביים מאוד", אמר על השיחות עם הבית הלבן, שעד לאחרונה החזיק בגישה חופשית יחסית כלפי רגולציית בינה מלאכותית.
מעניין במיוחד לראות מי עוד תומך ברעיון של רגולציה מחייבת. דריו אמודאי, מנכ"ל אנתרופיק, כבר קרא בעבר להקמת סוכנות בסגנון ה-FAA, זו שמפקחת על התעופה האזרחית, עם סמכות לחסום מודלים לא בטוחים. כלומר מנכ"לי שתי המעבדות המובילות בעולם, אלה שמאחורי ג'מיני וקלוד, מסכימים כבר היום שוושינגטון צריכה להסדיר אותם. המחלוקת ביניהם היא רק על מי בדיוק יחזיק בסמכות.
אז למה לא כולם קופצים על זה?
יש כאן פרדוקס יפה. חברות שמפחדות מרגולציה בדרך כלל נלחמות בה. כאן קורה ההפך. חסאביס בעצמו אומר שלהיות מוגדר "פרונטיר" ולעבור את הבדיקה יהפוך למותג יוקרה, לא לעונש. "אני חושב שזה נכס יוקרתי נחמד למדי", הוא אמר. וזו בדיוק הסיבה שכדאי להיזהר קצת מההתלהבות. גוף פיקוח שהחברות הגדולות עצמן מעצבות, ושמעניק להן תעודת הכשר רשמית, הוא לא בהכרח אותו דבר כמו פיקוח ציבורי עצמאי. מי שכותב את הכללים, לפעמים גם מרוויח הכי הרבה מהם.
לאן זה הולך מכאן?
חסאביס נותן לעצמו לוח זמנים אגרסיבי: חודשים, לא שנים, עם שאיפה שהגוף יהיה פעיל עוד לפני סוף השנה. זה מהיר בטירוף.
השאלה האמיתית היא לא אם יקום גוף כזה. זו כמעט ודאות, כשגם גוגל וגם אנתרופיק דוחפות לכיוון הזה, וכשהממשל כבר הוכיח שהוא מוכן להקפיא מודלים שלמים בין לילה. השאלה האמיתית היא מי ישב בחדר כשיחליטו מה נחשב "בטוח מספיק". ובחדר הזה, כרגע, יושבים בעיקר האנשים שבנו את הטכנולוגיה שהם מבקשים לפקח עליה.
