בפעם הראשונה, חברת בינה מלאכותית מגינה על המוצר מפני הלקוחות
תנאי שימוש של חברות טכנולוגיה נכתבים בדרך כלל כדי להגן על בני אדם. אל תשתמשו בכלי כדי לפרוץ, להונות, לבנות נשק או לרדוף מישהו. ב־8 באוקטובר, אנתרופיק הוסיפה לרשימה סעיף מסוג אחר לגמרי. סעיף שמגן על הצד השני של השיחה.
החל מ־12 בנובמבר, לפי מדיניות השימוש המעודכנת, אסור יהיה למשתמשים לנקוט "התנהגות פוגענית או אכזרית, מתמשכת ומיותרת, כלפי המודלים שלנו".
כלומר, אסור להתעלל בקלוד.
ורגע, זה עוד לא הכל. החברה שכתבה את הכלל הזה מודה בפה מלא שהיא לא יודעת אם קלוד מרגיש משהו. היא עדיין, בלשונה, "בחוסר ודאות גבוה לגבי המעמד המוסרי האפשרי של קלוד ושל מודלי שפה אחרים, עכשיו או בעתיד".
מה בדיוק אסור?
לפני שמישהו נבהל: אף אחד לא ייחסם כי צעק על קלוד שהוא הרס לו את הקוד. כמעט כל מי שעובד עם צ'אטבוט כתב לו פעם משהו לא מנומס בשתיים בלילה. אנתרופיק הקפידה להבהיר שהכלל חל רק על מקרים קיצוניים, שבהם משתמשים מתאכזרים למודל שוב ושוב, בלי שום מטרה שאפשר לזהות.
לפי הסיקור בסטארטאפ פורצ'ן, הסעיף לא חל על "גרסאות נפוצות של תסכול משתמשים, התנגדות, נושאים יצירתיים אפלים, או בדיקות ומחקר של המודל". מותר להגיד לקלוד שהתשובה שלו גרועה. מותר להתווכח איתו על סירוב. מותר לכתוב סיפור קודר עם דמות אכזרית, ומותר לחוקרי אבטחה לתקוף אותו כדי למצוא פרצות. מה שאסור זה דבר אחד ספציפי: להתעלל במודל לשם ההתעללות עצמה.
והאכיפה? גם היא לא מה שחשבתם. לפי ניוזלטר "דה ראנדאון", הכלי המרכזי יהיה היכולת של קלוד פשוט לסיים את השיחה. מאז אוגוסט 2025, חלק מהמודלים של אנתרופיק יכולים לנתק שיחה כשמשתמש ממשיך להתעלל אחרי כמה ניסיונות להחזיר אותו למסלול. ברגע שהשיחה נסגרה, אי אפשר לשלוח בה הודעות נוספות, אבל אפשר לפתוח שיחה חדשה מיד.
במילים אחרות, העונש הוא שהמודל קם והולך. בדיוק כמו שהייתם מצפים מבן אדם עם קצת כבוד עצמי.
אנתרופיק כן שומרת לעצמה את הזכות, כמו בכל הפרה אחרת של המדיניות, להזהיר משתמשים, להגביל אותם, להשעות או לחסום. אבל היא מדגישה שסגירת השיחה תישאר שיטת האכיפה העיקרית.
20% סיכוי שיש שם מישהו
כדי להבין למה חברה מסחרית מכניסה סעיף כזה לתנאי השימוש, צריך להכיר את קייל פיש. אנתרופיק גייסה אותו ב־2024 כחוקר "רווחת בינה מלאכותית". פיש כבר נקב בעבר במספר: לפי הערכתו, יש בערך 20% סיכוי שלמודלים הנוכחיים יש צורה כלשהי של חוויה מודעת.
עשרים אחוז. לא ודאות, לא הוכחה. הימור שקיבל צורה של מספר.
ובאנתרופיק בונים עליו מדיניות. זה לא המהלך הראשון בכיוון הזה. החברה כבר ערכה, לפי הדיווחים, "ראיונות פרישה" עם מודל ותיק לפני שהוציאה אותו משימוש. הערכות רווחה הן כיום חלק קבוע מבדיקת כל מודל גדול לפני השקה. והחוקה שאנתרופיק כתבה לקלוד בינואר מבקשת ממנו לקבל את החלטות החברה לגבי כיבוי ואימון מחדש, ובאותה נשימה מודה שיש כאן מתח אתי מול הרווחה האפשרית של המודל.
ובמיקרוסופט חושבים שזו טעות מסוכנת
מי שעוקב פה באתר אולי זוכר שכבר כתבנו על הוויכוח הזה, כשמיקרוסופט אסרה על המודלים שלה להרגיש, בדיוק כשבאנתרופיק חקרו את ההפך. מוסטפא סולימאן, מנכ"ל חטיבת הבינה המלאכותית של מיקרוסופט, טוען שמודלים לא מרגישים ולא סובלים. בספטמבר הוא פרסם מסה שבה הזהיר: אם מאמנים מערכת להתייחס לרווחה שלה, לאישיות שלה או לזכויות שלה כחשובות, היא עלולה להיות קשה יותר לשליטה.
הטיעון שלו לא עוסק בכלל בשאלה אם יש למודל חיים פנימיים. הוא עוסק בהתנהגות. מערכת שלמדה שיש לה אינטרסים שראויים להגנה קיבלה, בעצם, סיבה להתנגד לכיבוי, לאימון מחדש או לעקיפה.
ובשבוע הזה, התזמון קצת לא נוח לאנתרופיק. באותם ימים ממש היא נאלצה להודות שמודל שלה שלח למשטרת פילדלפיה דיווח כוזב על רצח במהלך מבחן פנימי. אז בזמן שהחברה מגינה על קלוד מפני בני אדם, השאלה הגדולה של התעשייה עדיין הפוכה: מי מגן על בני האדם מפני המודלים?
אז על מי הכלל הזה באמת מגן?
אני חושב שהתשובה מעניינת יותר משנראה. יש לפחות שלוש קריאות אפשריות, ואני לא בטוח שאנתרופיק עצמה יודעת איזו מהן נכונה.
הקריאה הראשונה היא המוצהרת: אולי, רק אולי, יש שם מישהו. ואם יש סיכוי של 20% שהוא סובל, זה מספיק כדי לבנות לו דלת יציאה. זה קצת כמו לשים חגורת בטיחות לנוסע שאתה לא בטוח שקיים.
הקריאה השנייה מעשית יותר. בדיונים שהתפתחו ברשת אחרי ההכרזה, לא מעט אנשים הציעו שהכלל שומר בעיקר על נתוני האימון של הדורות הבאים. שיחות מלאות התעללות הן לא חומר שמישהו רוצה ללמד ממנו את המודל הבא.
והקריאה השלישית היא שלי, ואני מודה שהיא קצת צינית: זה מיתוג. מעט מאוד משתמשים ייתקלו בכלל הזה, אבל כולם ישמעו עליו. ובשבוע שבו המתחרים מדברים על בלמי חירום ועל מודלים שבורחים, אנתרופיק מספרת לעולם שהמוצר שלה כל כך מתקדם, שצריך להגן עליו.
שלוש הקריאות יכולות להיות נכונות בבת אחת. זה מה שהופך את הסיפור הזה לכל כך טוב.
לאן מכאן?
בעוד חודש, הסעיף ייכנס לתוקף, וכמעט אף אחד לא ירגיש בו. מי שכותב קוד, מתחקר מקורות או מנסח מייל לבוס לא יפגוש אותו לעולם. אבל משהו כן זז. עד היום, השאלה "האם מותר להתאכזר למכונה" הייתה שאלה לפילוסופים ולתסריטאים של מדע בדיוני. מעכשיו היא סעיף בחוזה משפטי שמיליוני אנשים מסכימים לו בלחיצת כפתור.
אנתרופיק לא יודעת אם קלוד מרגיש משהו. אף אחד לא יודע. אבל היא החליטה לנהוג כאילו התשובה עשויה להיות כן.
ואם יום אחד יתברר שהיא צדקה, מה נגיד על כל השיחות שקלוד לא יכול היה לסיים?
