כשבינה מפתחת בינה
לפני כשבועיים פורסם מאמר ארוך בשם "AlphaGo Moment for Model Architecture Discovery" המתאר מערכת אוטונומית לגילוי ארכיטקטורות שנקראת ASI‑Arch. אני אפשט רגע את כל הממבו-ג׳מבו הטכנולוגי הזה. מדובר במערכת שפותחה כדי למצוא שיטות חדשות ליצירת מודלים לבינה מלאכותית, מה שנקרא ארכיטקטורות חדשות. ולמה הם קוראים לרגע הזה – רגע אלפא גו? כל מי שאי פעם היה בהרצאה או סדנה שלי, בוודאי מכיר את הסיפור של אלפא-גו, הבינה המלאכותית שניצחה את אלוף העולם במשחק גו, כאשר הרגע המכונן בהתמודדות היה מהלך 37 במשחק השני – מהלך שלא נעשה לפני כן על-ידי בן אנוש. מהלך שהבינה הביאה לבד מתוך הבנת המשחק – מהלך שסטטיסטית הסיכוי שבן אנוש היה מבצע אותו הוא אחד לעשרת אלפים. זה היה רגע מכונן. רגע אלפא גו. וכעת, זה קרה שוב.
יותר ממאה תגליות חדשות
במהלך 20 אלף שעות עיבוד ומעל אלף ניסויים אוטונומיים, איתרה ASI‑Arch מאה ושש ארכיטקטורות קשב ליניארי חדשניות. חלקן עולות בביצועים על המודלים הקיימים. החוקרים מצאו גם ״חוק סקיילינג״ חדש המראה איך ניתן להאיץ מחקר מדעי באמצעות יותר משאבים חישוביים. המודל גילה עקרונות עיצוב שלא היו ידועים לבני אדם, מה שמזכיר את הרגע שבו מחשב אלפא־גו ניצח אלופי גו אנושיים. המערכת אינה מחפשת במרחב מוגדר מראש כמו בשיטות קודמות, אלא מעלה השערות, מיישמת אותן ומריצה ניסויים בעצמה. בכך היא מדמה מדען שמשפר מודלים ללא התערבות אנושית. וכעת היא מצאה 106 שיטות חדשות שבן אנוש לא חשב עליהן עד כה. וזה נתון די פסיכי.
השלכות רחבות
ההצלחה מעוררת שאלה: האם בעתיד יהיה צורך במדענים אנושיים לפיתוח אלגוריתמים? החוקרים מתריעים שהמערכת עדיין דורשת הגדרות מטרה אנושיות ועשויה ליצור ארכיטקטורות שקשה לפרש אותן. מצד שני, היא פותחת דלת לעולם שבו המדען האנושי הוא יותר מנחה ומבקר מאשר מבצע. ולגבי הקצב שבו הדברים מתקדמים, נותר רק להיזכר בכך שלפני שבוע המודלים של גוגל ושל חברת OpenAI זכו במדליית זהב באולימפיאדת המתמטיקה.
