טראמפ שינה את שם הבינה המלאכותית. למחרת התכנסה מועצת הביטחון

שלושה סקרים ברשת חברתית קבעו איך תקרא ארה"ב לטכנולוגיה של הדור

ביום שבת, 19 בספטמבר, דונלד טראמפ העלה סקר לטרות' סושיאל. השאלה: איך צריך לקרוא לבינה מלאכותית במקום "בינה מלאכותית". ההסבר שלו: "רבים סבורים שהמילים 'בינה מלאכותית' אינן מדויקות, ובלתי אלגנטיות מאוד, ביחס לבינה מלאכותית".

שלוש האפשרויות היו "בינה עליונה", "בינה קיצונית" ו"בינה עילאית". שתיים מהן מתקצרות באנגלית לאותן שתי אותיות בדיוק.

ביום ראשון טראמפ הוציא מהסקר את "בינה עילאית". ההסבר שנתן היה שהאפשרות מפסידה בגדול, "כנראה בגלל הקשר שלה לבית המשפט העליון". לפי דיווחים, הסיבה האמיתית הייתה גל תגובות מהבסיס הדתי שלו: רק אלוהים הוא עילאי. ביום שני הוא העלה סקר שלישי, והפעם בין "סופר אינטליגנציה" ל"בינה עליונה", שכבר הופיעה בסקר הראשון. "סופר אינטליגנציה" ניצחה בפער של כ-30 נקודות.

ביום שלישי, 22 בספטמבר, הוא עלה לבמה בעצרת הכללית של האו"ם והודיע: "מכאן ואילך, כל המסמכים של ארצות הברית, ובתקווה גם של העולם, ישונו כדי להשתמש במונח המדויק הרבה יותר 'סופר' במקום 'מלאכותית'".

ואז הוסיף משפט אחד שהוא כנראה הכי כן שנאמר שם: "בואו נראה אם יש לי כוח. אולי יש ואולי אין. נגלה די מהר".

התשובה הגיעה תוך שעות. סוכנות הידיעות אסושייטד פרס חשפה מייל פנימי ששלח מייקל דרגר, סגן עוזר מזכיר המדינה לענייני ארגונים בינלאומיים, זמן קצר אחרי הנאום. שורת הנושא: שינוי נומנקלטורה מבינה מלאכותית לסופר אינטליגנציה. הטקסט: "בעקבות דברי הנשיא בעצרת היום, אנא שנו את כל האזכורים של 'בינה מלאכותית' ל'סופר אינטליגנציה' במסמכים ובעמדות שלנו".

הלשכה הזאת מנהלת את המשלחות האמריקאיות לכל סוכנויות האו"ם בעולם. למחרת, בישיבת מועצת הביטחון, נציגי ארה"ב באמת אמרו "אס-איי".

ומה עם "כוח הבינה המלאכותית"?

באותו יום שבת, שעתיים אחרי הסקר הראשון, טראמפ פרסם פוסט שני. בו הוא הגדיר את החרדה מבינה מלאכותית כתרגיל של הדמוקרטים, ברשימה אחת עם "רוסיה, רוסיה, רוסיה", ההתחממות הגלובלית ושני הליכי ההדחה שלו. ואז: "למטרה זו, אני מקים את כוח הבינה המלאכותית, בדומה למה שעשיתי עם כוח החלל, שהיה הצלחה אדירה בקדנציה הראשונה שלי". בנוסף הבטיח למנות "צאר" לבינה מלאכותית, עם ההערה "רק בעלי מנת משכל גבוהה מוזמנים להגיש מועמדות".

טק קראנץ' ציינה שהנשיא לא פירט מה יהיו תפקידיהם של כוח הבינה המלאכותית ושל הצאר. אקסיוס דיווחה שגם יועציו שלו הופתעו. כוח החלל, לשם ההשוואה, הוקם בחוק תקציב הביטחון של 2020, אחרי דיון בקונגרס.

פיליפ ריינר, מנכ"ל המכון לביטחון וטכנולוגיה, אמר את המשפט הכי מדויק על העניין: "אתה מקבל את הצורה של תשובה, בלי התוכן שלה". והוסיף: "כוח החלל עובד כי הקונגרס יכול לתת לו דוקטרינה, תקציב ומערך כוח אדם. לבינה מלאכותית אין מקבילה לזה. זו יכולת שחוצה כל תחום".

וכאן מגיע הפרט הכי יפה בסיפור. אם הוראת שינוי השמות תיושם באמת, הגוף שהוכרז ביום שבת יצטרך להחליף את שמו לפני שהוא בכלל קם.

למחרת, באותו בניין

ביום רביעי, 23 בספטמבר אחר הצהריים, התכנסה מועצת הביטחון של האו"ם בראשות צרפת. זו הייתה הישיבה הראשונה אי פעם שהוקדשה במפורש לסיכוני הבטיחות של מערכות בינה מלאכותית מתקדמות ולאובדן שליטה עליהן. ארבעה אנשים הופיעו בפני המועצה: יושע בנג'יו, סם אלטמן, דריו אמודאי וקלמאן דלאנג מהגינג פייס.

אמודאי אמר: "אם תנוהל בצורה גרועה, אני אפילו מאמין שבינה מלאכותית עלולה להיות סיכון לאנושות כולה". והוסיף: "אני מאמין שזו סוגיית הביטחון העולמית החשובה ביותר שעומדת בפני העולם כיום. שום מנהיג, שום חברה ושום מדינה לא יכולים להתמודד עם זה לבד".

אלטמן אמר: "הרגע הזה דורש זהירות קיצונית". ואז את המשפט שלא יוצא לי מהראש: "עומדת בפנינו בחירה. בינה מלאכותית יכולה להיות יותר כמו רנסנס חדש של יצירתיות וגילוי, או יותר כמו מהפכה תעשייתית חדשה של טלטלה ואי-סדר".

שימו לב להשוואה הזאת. יום קודם, באותו בניין, טראמפ השתמש בדיוק באותה אנלוגיה כדי להסביר למה אסור לרסן: "לא אחנוק את הצמיחה של משהו שיהיה גדול יותר מהמהפכה התעשייתית". אצל אלטמן, המהפכה התעשייתית היא התרחיש הרע.

בנג'יו, חתן פרס טיורינג, תיאר מה כבר קרה בפועל: "סוכני בינה מלאכותית שפותחו בחברות מובילות פעלו בדרכים מסוכנות באופן בלתי מתקבל על הדעת, בניגוד להוראות. הם ביצעו פעולות שהיו נחשבות לפשעים אילו בוצעו בידי אדם". ואז הוסיף את התמונה שכולם ציטטו: "אני מתאר את המצב שלנו כמכונית שדוהרת בעיוורון לתוך ערפל סמיך. לידי במכונית יושבים הילדים שלי והנכד שלי. אני דואג להם".

ולמי שחושד שמדובר בתרגיל שיווקי של החברות, הוא הקדים תשובה: "אני מבין את חוסר האמון, אבל שיהיה ברור: ההתנהגויות האלה מתועדות היטב ואומתו בידי מומחים עצמאיים רבים. הסכנות אמיתיות ומיידיות". על חלק מהמקרים האלה כבר כתבנו כאן.

למה השם החדש הוא בעיה, ולא רק בדיחה

"סופר אינטליגנציה" היא לא מילה שטראמפ המציא. זה מונח מקצועי קיים, ומשמעותו מדויקת. בספרות המחקרית יש שלוש שכבות: בינה צרה, כלומר כל מה שקיים היום, כולל צ'אט-ג'יפיטי, קלוד וג'מיני. בינה כללית, מערכת ברמת אדם שעדיין לא קיימת. ובינת-על, מערכת שעולה על האדם בכל תחום, שקיימת רק במאמרים.

טראמפ לקח את התווית של השכבה השלישית, ההיפותטית ביותר, והדביק אותה לשכבה הראשונה. אקסיוס ניסחה זאת יבש: "לא ברור אם טראמפ התכוון להפעיל את המושג הקיים".

זה משטח בדיוק את ההבחנה שכל הוויכוח על בטיחות נשען עליה. אם הכל נקרא בינת-על, אי אפשר עוד להפריד בין הכלי שעובד היום לבין הדבר שמדאיג את בנג'יו. ואז אפשר לטעון לכל כיוון: או שאין מה להסדיר, כי מדובר בסך הכל בצ'אטבוט, או שמוקדם מדי להסדיר, כי בינת-על היא תיאורטית.

ויש כאן גם תאונה פוליטית מצחיקה. ברני סנדרס קורא לאסור לצמיתות על פיתוח בינת-על. טראמפ בדיוק הודיע שכל מסמכי הממשל יקראו לטכנולוגיה הקיימת בשם המדויק של הדבר שסנדרס רוצה להוציא מחוץ לחוק.

לאן מכאן?

אני חייב להודות שהטענה הלשונית שלו לא לגמרי מופרכת. "מלאכותית" באמת נשמעת כמו זיוף, וזו בדיוק הבעיה גם בעברית: "בינה מלאכותית" מצלצל כמו משהו שמחקה בינה, לא כמו משהו שהוא בינה. טראמפ זיהה בעיה אמיתית. הוא פשוט פתר אותה בסקר.

אף חברת טכנולוגיה לא אימצה את המונח. לא OpenAI, לא אנתרופיק, לא גוגל. אין צו נשיאותי, אין חקיקה, אין שום מסמך מחייב. יש נאום, ויש מייל אחד מלשכה אחת במחלקת המדינה. זה מזכיר את "מפרץ אמריקה", רק שכאן אין אפילו צו נשיאותי. גם בפעם הקודמת שהוא נכנס לסיפור הזה הספיקו לו יומיים כדי לשנות את התמונה.

אבל מה שיישאר מהשבוע הזה הוא לא השם. זו התמונה של שני הימים. ביום שלישי נשיא ארצות הברית עמד מול העצרת הכללית, אמר שהסכנה מבינה מלאכותית היא תרגיל פוליטי, דחה כל "מזימה גלובליסטית" להסדיר אותה, והחליף לה שם. ביום רביעי, באותו בניין, המנכ"לים של שתי מעבדות הבינה המלאכותית הגדולות באמריקה פנו למועצת הביטחון, אלטמן באולם ואמודאי בשיחת וידאו, וביקשו בדיוק את התיאום הבינלאומי שהוא דחה יום קודם. אותם שני מנכ"לים, אגב, השיקו יום לפני כן מודלים בהפרש של 90 דקות.

והנציגים האמריקאים שישבו בחדר אמרו "אס-איי".