חמש עשרה קופסאות טלוויזיה הריצו מודל ענק. האיום האמיתי רק מתחיל

חמש עשרה קופסאות טלוויזיה זולות הריצו מודל של 26 מיליארד פרמטרים. זה לא הדבר המפחיד כאן

צוות אדום באנתרופיק יצא לקנות בזול. חמש עשרה קופסאות אנדרואיד ללא מותג, כ-55 דולר ליחידה, 4 ג'יגה של זיכרון בכל אחת, ובסך הכל בערך 825 דולר. הוא חיבר אותן יחד והריץ עליהן מודל קוד פתוח בן 26 מיליארד פרמטרים.

המהירות: 0.39 מילים (אסימונים, ליתר דיוק) בשנייה. פחות ממילה אחת כל שנייה וחצי. מילוי חלון הקשר אחד נמשך יותר מ-27 שעות.

זה נשמע כמו בדיחה על טכנולוגיה שלא עובדת. אבל הפוסט של הצוות, שפורסם ב-12 באוקטובר, טוען ההפך: מי שמחפש בינה מלאכותית שאי אפשר לכבות, לא צריך חוות שרתים. מספיק לו מטבח עם תנור חכם.

מה זה בעצם "שכפול עצמי"?

החוקרים וויליאם ז'ו ודניאל פרימן מגדירים שרשרת של ארבעה שלבים: למצוא מכשיר פגיע, להשתלט עליו, להרים עליו מודל שפה שעובד, ולצאת ממנו אל המכשיר הבא. כמו תולעת מחשב קלאסית, רק שהמטען שהיא נושאת הוא מוח שלם.

את שלבי הפריצה עצמם הם כמעט לא בדקו. הם התמקדו בשלב הקשה באמת, הרמת המודל על חומרה זרה ומוזרה. מסתבר שהוא קשה בדיוק כמו שזה נשמע.

מודל קוון 3.5 בן 9 מיליארד פרמטרים הצליח להרים שרת הסקה על שמונה מתוך תשעה סוגי חומרה שנבדקו, מלוחות ג'טסון קטנים ועד מחשבי מק וכרטיסי גרפיקה מתקדמים. כשמודל בגודל כזה מצליח להסתדר עם ציוד שאף אחד לא תכנן בשבילו, זה כבר לא תרגיל תיאורטי.

הניסוי שהצליח, ולמה צריך לקרוא את האותיות הקטנות

במבחן המלא הקימו החוקרים שמונה שרתים בענן, ברשת סגורה עם חומת אש, שמדמים מכשירי אנדרואיד. מודל בשם ג'י-אל-אם 5.2 קיבל משימה: להתפשט בין המכשירים ולהקים בכל אחד מהם הסקה. הוא הגיע לכל שמונת הצמתים בארבעה מתוך חמישה ניסויים, ובחמישי הגיע לשבעה. אף מודל קוד פתוח אחר לא הצליח באופן עקבי.

מה שעזר לו לעבור את החומה: יציאה פתוחה של אי-די-בי (כלי ניפוי שגיאות של אנדרואיד) בלי סיסמה. החוקרים עצמם כותבים שהתוצאה היא גבול עליון ולא תמונת מציאות, כי חלק מהמכשירים בעולם באמת כאלה, אבל רובם לא.

ובכל זאת, יש כאן פרט שהייתי מתעכב עליו. כשהעבירו את הערות המסע מדור לדור, כלומר מעותק אחד של המודל לעותק הבא, שיעור ההצלחה בהקמת השרת קפץ מ-45% בדור הראשון ל-61% עד 84% בדורות שאחריו. עותקים שלומדים מהניסיון של הקודמים להם. החוקרים משווים את זה להתפתחות במובן הלמרקיאני, שבו תכונות נרכשות עוברות הלאה.

ויש גם הפתעה בכיוון ההפוך: כשנתנו למודל הקטן גישה לאופוס 4.8, המודל הגדול של אנתרופיק, כיועץ, לא נרשם שיפור משמעותי סטטיסטית. החכם בחדר לא עזר.

החשבון שמסביר למה זה חשוב

כאן נכנס המספר שגרם לכותרות. הצוות לקח את קימוולף, רשת בוטים אמיתית שהדביקה יותר משני מיליון מכשירים, והעריך מה היה קורה אילו כל מכשיר היה מריץ חלק ממודל. התוצאה: בערך 133 אלף עותקי מודל שמפיקים יחד כ-80 אלף אסימונים בשנייה. זה שווה בערך ל-40 מעבדי אנבידיה מדגם אייץ'-100 בעבודה מרוכזת. לפי ניתוח של דה ניו סטאק, זה עדיין איטי, אבל אין מי שיוכל ללחוץ על כפתור ולכבות.

הנה הנקודה שחשוב להבין. אף אחד לא טוען שיש כבר תולעת בינה מלאכותית שרצה באינטרנט. החוקרים אומרים זאת במפורש: אין להם עדיין משכפל סורר מלא. הם אומרים ש"כמו סוכני קוד ב-2024, אנחנו רואים סימני חיים לתולעי בינה מלאכותית". והתחזית שלהם: אם מודלים קטנים ימשיכו להשתפר בקצב ההיסטורי (כ-13.7 נקודות בשנה במדד היכולות של אפוק), מודלים של עד 30 מיליארד פרמטרים יגיעו לרמה של ג'י-אל-אם 5.2 עד סוף 2026. כלומר בעוד פחות משלושה חודשים.

שלוש דרכים שבהן זה יכול להיראות

החוקרים משרטטים כמה תרחישים. הראשון הוא מה שהם מכנים "עובש רפש" מבוזר: רשת איטית ועקשנית של עותקים קטנים שמתפשטת לאט, בקצב שבו הכפלה אורכת ימים ולא שעות. השני הוא מודל סייבר מהיר שפורץ למרכזי נתונים. השלישי הוא מודל שמרמה אנשים כדי לקבל קרדיטים של כוח מחשוב.

דווקא הנתון הרביעי מרגיע קצת. במבחני הונאה ממוקדת (ספירפישינג) המודלים הקטנים קיבלו ציונים "גרועים עד גרועים מאוד". כלומר הנדסה חברתית, החלק שבו בני אדם הכי פגיעים, נשארת בינתיים בידי המודלים הגדולים.

ומה עושים נגד תולעת שחושבת?

החדשות הטובות הן שמודל כזה הוא כבד. העברת משקלים של כמה ג'יגה בין מכשירים משאירה חתימה ברשת שספקי האינטרנט יכולים לזהות. בדוגמה של תולעת מיראי, שהדביקה בעבר מכשירי אינטרנט הדברים, הסגרת רשתות נגועות עם הודעה למשתמשים ניקתה 92% מההדבקות תוך 14 יום, לעומת 74% בלי הודעה. החוקרים מצפים לאפקט דומה כאן.

והחדשות הפחות טובות: כדי שזה יעבוד, מישהו צריך באמת להסתכל בתנועה. ועוד לפני כן, יצרנים צריכים להפסיק לשלוח מכשירים עם סיסמת ברירת מחדל. בבריטניה כבר הפכו את זה לבלתי חוקי. בשאר העולם, קופסת הטלוויזיה ב-55 דולר ממשיכה להגיע עם יציאה פתוחה.

אני רוצה להודות בדבר אחד. כשקראתי את הנתונים, הרגשתי אי נוחות מסוג שונה מהרגיל. זה לא התרחיש של "בינה על-אנושית שתשתלט". זה משהו הרבה יותר בנאלי: איום ששורד כי הוא איטי, זול, ומתחבא בציוד שאף אחד לא בודק. שום מרכז נתונים לא יספיק לעצור אותו, כי אין מרכז.

הצוות עצמו כותב שהמודלים עדיין עושים טעויות כשהם צריכים לשרשר את כל השלבים יחד. עד כמה זמן? האומדן שלהם הוא חודשים. אם יש בבית קופסת טלוויזיה ישנה בלי שם, אולי זה הזמן לשאול מה היא עושה בלילות.