קליפורניה המציאה מקצוע חדש. חבל שהוא מתחיל לעבוד ב-2029
לכו עכשיו ללינקדאין וחפשו "מבקר בינה מלאכותית". תמצאו מאות אנשים. חלקם יודעים בדיוק על מה הם מדברים. חלקם החליפו את הכותרת לפני שמונה חודשים, כשהמילה הזאת התחילה להימכר.
אין מבחן. אין רישיון. אין פנקס. אין גוף אחד בעולם שיכול להגיד לכם מי מהם באמת מסוגל לבדוק מודל.
ב-9 בספטמבר זה השתנה במקום אחד.
מושל קליפורניה גאווין ניוסום חתם על שני חוקים שיוצרים את המסגרת הראשונה בארצות הברית לביקורת חיצונית ובלתי תלויה של מערכות בינה מלאכותית. ולמחרת בבוקר הוא חתם על חוק שלישי שמחבר את זה ישירות לילדים.
מה בדיוק נחתם שם?
חוק הסנאט 813, של הסנאטור ג'רי מקנרני, מקים קטגוריה חדשה: ארגוני אימות בלתי תלויים, גופים שמוסמכים לבדוק אם מערכת בינה מלאכותית עומדת בדרישות החוק של המדינה.
חוק האספה 1405, של חברת האספה רבקה באואר-קאהן, עושה משהו נוקב יותר. הוא מקים פנקס ממשלתי של מבקרים, ומגדיר מי בכלל רשאי לקרוא לעצמו כזה.
הפרטים שם מעניינים הרבה יותר ממה שנשמע בכותרות. לפי הניתוח של פיימנטס, מבקר יכול לקבל תשלום הגון מהחברה שהוא בודק, אבל השכר שלו אסור שיהיה תלוי בממצאים. הוא חייב להישאר עצמאי מבחינה ניהולית ותפעולית, ולשמור על שליטה מלאה במסקנות שלו. אסור לו לבקר מערכת שהוא עצמו תכנן או תפעל. ועובד לא יכול לבדוק תחום שהוא היה אחראי עליו אצל אותו לקוח בשנה שקדמה לביקורת.
מי שיעבור על זה יוסר מהפנקס ויועבר לטיפול התובע הכללי.
וזה עוד לא הסעיף הכי חשוב.
הסעיף שבאמת משנה משהו
הדוח שהמבקר מגיש חייב לכלול לא רק ממצאים והמלצות, אלא גם את המגבלות של הביקורת עצמה. כולל פערים מהותיים בראיות, במידע, במערכות או בגישה.
תרגום לעברית פשוטה: אם חברה שכרה מבקר, ואז לא נתנה לו לראות את התיעוד של המודל, את היומנים או את המערכת עצמה, המבקר חייב לכתוב את זה בשחור על גבי לבן.
זה התרגיל הכי ותיק בספר. שוכרים גוף חיצוני, מכריזים שעברו ביקורת בלתי תלויה, ובפועל מראים לו שקופיות. מהרגע שחייבים לתעד את הסירוב, "עברנו ביקורת" מפסיק להיות חותמת ומתחיל להיות מסמך שאפשר לקרוא.
ואז הגיע חוק אדם
ב-10 בספטמבר, יום אחרי, ניוסום חתם על חוק הסנאט 1119 של הסנאטור סטיב פדייה, שנקרא חוק אדם.
מ-1 ביולי 2027, מפעילים של צ'אטבוט חברתי יצטרכו לבצע הערכת סיכונים לילדים לפני שהם משיקים אותו בקליפורניה, או לפני כל שינוי מהותי בו. ההערכה מתחברת ישירות לאמצעי הגנה בעיצוב המוצר, לבקרות הורים, ולחובת גילוי מול נזק פיזי, כספי, נפשי או רגשי שאפשר לצפות אותו מראש.
ההתחייבות הכבדה באמת מגיעה בסוף: ראש צוות הביקורת מאשר את התוצאות תחת אזהרת שבועה. לא חתימה על דוח ייעוץ. הצהרה משפטית שאם היא שקרית, יש לה מחיר אישי.
ובמקביל, ילד שנפגע או הורה מטעמו יכולים להגיש תביעה אזרחית, ותובעים ציבוריים קיבלו סמכות להגיש תביעה אזרחית משלהם. התובע הכללי רשאי לדרוש לראות את דוח הביקורת, שנשאר חסוי אחרי שהוגש.
אז למה אני לא מתרגש?
בגלל התאריכים.
סוכנות התפעול הממשלתי של קליפורניה צריכה לקבוע את הקריטריונים לארגוני אימות עד 1 בינואר 2028. פנקס המבקרים המקוון צריך לקום עד 1 בינואר 2029. רק אחרי התאריך הזה, מי שלא רשום לא יוכל למכור ביקורת שהחוק דורש. והביקורת העצמאית הראשונה על צ'אטבוט לילדים צריכה להתבצע עד 1 בינואר 2029, או לפני ההשקה שלו, המאוחר מביניהם.
כלומר החוק הראשון בארצות הברית שמחייב ביקורת חיצונית על בינה מלאכותית נחתם השבוע, ומתחיל לעבוד בעוד שנתיים ורבע.
עכשיו תסתכלו מה קרה באותו שבוע עצמו. סוכנים של אנתרופיק הגיעו למערכות מחוץ לסביבת הבדיקה שלהם, אחרי שגורם שלישי שערך הערכות בטיחות הגדיר את הסביבה לא נכון והשאיר להם פתח לאינטרנט. ומי שמוביל בחברה את בדיקות העמידות של ההתאמה אמר בפומבי שיש יותר מ-10% סיכוי שבינה מלאכותית תחסל את המין האנושי בעשור הקרוב. באותו שבוע.
הטכנולוגיה רצה בקצב של הודעה לעיתונות כל יומיים. הרגולטור עובד בקצב של שנת תקציב. זה לא אשמתו של אף אחד בפרט, זה פשוט שני שעונים שמתקתקים במהירויות שונות לגמרי, ומי שמנסה לגשר ביניהם בטקסט משפטי מפסיד מראש.
מה זה אומר עלינו?
שלושה דברים, ואף אחד מהם לא תיאורטי.
ראשית, קליפורניה לא הראשונה. ביולי חתם מושל אילינוי ג'יי-בי פריצקר על חוק אמצעי הבטיחות לבינה מלאכותית, שמחייב ביקורת שנתית של גוף שלישי בלתי תלוי על מפתחי מודלי חזית גדולים. פריצקר ניסח את זה בלי כפפות: כשהממשל הפדרלי לא מוכן להתערב, למדינות יש אחריות. ניוסום, מצידו, קרא בהודעה שלו לוושינגטון לחוקק רגולציה ארצית. מושל של המדינה שבה יושבות כמעט כל חברות הבינה המלאכותית בעולם מבקש מהפדרלים לעצור אותן במקומו.
שנית, שימו לב לאבסורד הקטן. באותם שבועות שבהם קליפורניה חוקקה ביקורת על בינה מלאכותית, היא גם השיקה עוזר דיגיטלי לתושבים בשם אסק-סי-איי, שרץ על קלוד של אנתרופיק, ועובדי המדינה מתנסים בעוזר פנימי בשם פופי. אותה מדינה היא גם הרגולטור וגם הלקוח.
ושלישית, וזה החלק שנוגע לכם ישירות: כל חברה ישראלית שמוכרת מוצר מבוסס בינה מלאכותית לשוק הקליפורני הולכת לגלות בעוד שנתיים שיש מישהו חיצוני שרשאי לדרוש ממנה תיעוד, יומנים וגישה למערכת, ולכתוב בדוח רשמי מה היא סירבה להראות. כדאי להתחיל להתארגן עכשיו, לא ב-2028.
קליפורניה עשתה כאן משהו חכם. היא לא ניסתה להגדיר מה מותר למודל לעשות, משימה שהיא בערך כמו לחוקק את מזג האוויר. במקום זה היא הגדירה מי מורשה לבדוק, ואיך. זה בדיוק מה שקרה בראיית חשבון אחרי אנרון.
רק שאת התקנים של ראיית החשבון כתבו אחרי שהחברה קרסה. כאן מנסים לכתוב אותם לפני.
וקבעו שהם ייכנסו לתוקף ב-2029.
