לא הייתה פה סיסמה גנובה. לא פרצת אבטחה קלאסית. קבוצת אנשים מצ'אנל דיסקורד פרטי, שמחפשים מידע על מודלי בינה מלאכותית לא משוחררים, קיבלה גישה לכלי הסייבר הרגיש ביותר שאנתרופיק יצרה אי פעם. ביום ההשקה שלו.

השם של הכלי: מיתוס.

מה זה מיתוס ולמה זו בעיה

אנתרופיק בנתה את מיתוס כחלק מ"פרויקט גלאסווינג". היא שחררה אותו לספקים נבחרים בלבד, כולל אפל, תחת שמירת סודיות מוחלטת. הרעיון: מערכת בינה מלאכותית שעוזרת לארגונים לאתר ולסנן איומי סייבר.

הבעיה היא שאותה מערכת בדיוק, בידיים לא נכונות, הופכת לנשק. "הכלי עלול לשמש לפגיעה באבטחה ארגונית במקום לחיזוקה," לפי הדיווח של טקראנץ'. זה לא תרחיש תיאורטי. גישה לא מורשית למיתוס פירושה גישה לכלי שיודע היכן החולשות שכדאי לתקוף.

איך קבוצה מדיסקורד הגיעה לשם לפני אפל

אחד מחברי הקבוצה אמנם עובד אצל קבלן חיצוני של אנתרופיק, אבל הכניסה עצמה הייתה אלגנטית בצורה מוזרה: הם "ניחשו את מיקום המודל ברשת על בסיס ידע על הפורמט שאנתרופיק השתמשה בו במודלים אחרים." במילים אחרות: הם הכירו את הדפוסים של החברה, ראו את הכיוון, ומצאו את הדלת לפני שמישהו אחר חשב לסגור אותה.

הם לא עצרו שם. הם הביאו ראיות. לדיווח של בלומברג הם שלחו צילומי מסך ואף ביצעו הדגמה חיה של המערכת. "אנחנו פשוט רוצים להתנסות במודלים חדשים, לא לגרום נזק," אמרו.

מה אנתרופיק אומרת

"אנחנו חוקרים דיווח שטוען שהייתה גישה לא מורשית ל-Claude Mythos Preview דרך אחת מסביבות הספקים שלנו," אמר דובר החברה.

עד כה לא נמצאו ראיות לפגיעה במערכות אנתרופיק עצמן. אבל שימו לב לניסוח: הם בודקים נזק, לא מכחישים גישה. הגישה, על פי כל הדיווחים, התרחשה.

לאן מכאן?

אנתרופיק היא אחת מחברות ה-AI שמדברות הכי הרבה על בטיחות. הם כתבו את ה-Constitutional AI, הם שמו את הבטיחות בראש ובראשונה בכל הכרזה. ועכשיו הכלי הכי רגיש שלהן נגיש לקבוצת חובבנים ביום שהוכרז לעולם.

זה לא מוחק את האמינות שלהן. אבל הוא מציג משהו שתעשיית ה-AI שוכחת לעיתים: לבנות מודל בטוח זה דבר אחד. לאבטח את התשתית סביבו זה דבר אחר לגמרי. וכשאנשים ממוצעים עם ידע בדפוסי ה-URL של החברה מצליחים לפרוץ אליו ביום ההשקה, זה אומר שהפער בין השניים עדיין גדול מאד.

הפוסט כלי האבטחה ה-״מסוכן מדי לשחרר״ נפרץ באופן מביך הופיע לראשונה ב-Ai Samurai.