מה כותב מנהל במיקרוסופט כשהוא בטוח שאף אחד מבחוץ לא יקרא?
בינואר 2023, חודשיים בלבד אחרי שצ'אט-ג'יפיטי נחת על העולם, ישב ברנט הכט וכתב מסמך פנימי. הכט הוא מנהל המדע היישומי במיקרוסופט. הוא לא כתב לעיתונות, לא לרגולטור ולא לבית משפט. הוא כתב לעמיתים שלו, באותה חברה שבדיוק אז הזרימה מיליארדים ל-OpenAI.
הוא תיאר את גריפת התוכן מהאינטרנט לצורך אימון מודלים כ"גניבה מדהימה בממדים חסרי תקדים". ואז הוסיף משפט שכנראה ירדוף את מיקרוסופט עוד הרבה זמן: "גניבת העבודה הגדולה בהיסטוריה האנושית".
ביום חמישי האחרון בית המשפט הסיר את ההשחרות מהתיק. המשפט הזה יצא החוצה.
לפי הדיווח של טק קראנץ', המסמכים החדשים שנחשפו בתביעת הניו יורק טיימס נגד OpenAI ומיקרוסופט מכילים שורה של הודאות פנימיות שקשה לקרוא אותן בלי להרים גבה. הוושינגטון פוסט דיווח על אותם מסמכים כמה שעות אחר כך.
הערה אחת לפני שממשיכים, והיא חשובה: חלק ניכר מהציטוטים מגיע מכתב הטענות של הטיימס עצמו, לא מהמסמכים המקוריים שעדיין חסויים. כלומר, מי שבחר אילו משפטים לצטט הוא הצד התובע, כך שייתכן שדברים הוצאו מהקשרם. אבל גם בהנחה הזאת, החומר מספק הצצה נדירה למה שנאמר בחדרי חדרים ומעולם לא חשבו שידלוף החוצה.
לולאת האבדון של מיקרוסופט
שנה אחרי המסמך הראשון, בינואר 2024, הכט כתב מצגת פנימית נוספת. הפעם עם נתונים.
מנוע התשובות של קופיילוט, כך עולה מהמצגת, הפיל את שיעור ההקלקה לדומיין של הניו יורק טיימס בעד 93% לעומת חיפוש בינג רגיל. תשעים ושלושה אחוז. אדם שואל שאלה, מקבל תשובה, וכבר אין לו שום סיבה להיכנס לאתר שממנו התשובה נלקחה.
הכט קרא לזה "לולאת אבדון" שתפגע "גם בביצועים של המודלים שלנו וגם ברשת כולה, באותו הזמן". במקום אחר במסמך של מיקרוסופט נכתב משפט שנשמע כמו ניתוח של יועץ חיצוני עוין: "זה חריג מאוד שמוצר קצה מאיים על הבסיס הכלכלי של הספקים החיוניים שלו, אבל זה בדיוק המצב שיצרנו לעסק המודלים שלנו מול שרשרת אספקת התוכן שלו".
שרשרת אספקת התוכן. כך קוראים היום לעיתונאים.
מסמך נוסף של מיקרוסופט מציין "סיכון אמיתי" שהבינה המלאכותית היוצרת "תשבש באופן משמעותי את התעסוקה של אותם אנשים בדיוק שייצרו את הנתונים שעליהם אומן המודל".
הודאות שמפרקות את הגנת השימוש ההוגן
ההגנה המרכזית של חברות הבינה המלאכותית בכל התביעות האלה נקראת שימוש הוגן. היא מאפשרת להשתמש ביצירה מוגנת ללא רשות במקרים מסוימים: פרודיה, ביקורת, דיווח חדשותי. אחד המבחנים המרכזיים שלה בודק אם השימוש פוגע בשוק של היצירה המקורית או מחליף אותה.
וכאן זה נהיה בעייתי.
ניק טרלי, ראש צ'אט-ג'יפיטי ב-OpenAI, כתב בתקשורת פנימית שהמוציאים לאור ניצבים מול "איום קיומי" ממוצרים כמו הצ'אטבוט, שהם "מחליפיים במידה רבה" ו"ייעשו מחליפיים יותר ויותר ככל שישתפרו". גרג ברוקמן, נשיא OpenAI, תיאר את המודלים כ"מצוינים בחדשות".
סאטיה נאדלה, מנכ"ל מיקרוסופט, נחקר בעדות מוקדמת בתחילת השנה והסכים שהשיחה עם צ'אטבוט "החליפה את מתן המידע ישירות באתר, בפלטפורמת הבינה המלאכותית, במקום הצורך ללכת למקור עצמו".
נאדלה גם אמר משהו שקשה לקרוא אותו כהגנה על השותפה שלו: "כל דבר שנמצא מאחורי חומת תשלום צריך להיות מורשה בידי כל מי שרוצה להשתמש בו, לצורך עיגון או אימון". והוסיף שאילו היה יודע ש-OpenAI גרפה ואימנה על תוכן מאחורי חומת תשלום, היה מפעיל את זכות מיקרוסופט לדרוש מ-OpenAI לאמן מחדש את המודלים.
91,692 עותקים, ופרויקט בשם מנגו
קנה המידה הוא מה שהופך את הסיפור מטיעון משפטי לתמונה. מערכי הנתונים של אימון הביניים של OpenAI מכילים, לפי המסמכים, יותר מ-91,692 עותקים של יצירות שפרסמו הניו יורק טיימס, הדיילי ניוז ומרכז העיתונות החוקרת. מערך נתונים שנגזר מהארכיון הפתוח קומון קרול הכיל יותר משני מיליון מסמכים מאתר הטיימס לבדו.
המסמכים מתארים גם איך זה עבר בין החברות. OpenAI מסרה למיקרוסופט את כל מערך האימון של ג'יפיטי-3, כדי שמיקרוסופט תבחן איך לשלב את המודלים במוצרים המסחריים שלה. מיקרוסופט, מצדה, סיפקה ל-OpenAI נתוני אימון דרך יוזמות שנקראו פרויקט טקסי ופרויקט מנגו. הנתונים של פרויקט מנגו הורכבו למערך אימון שמכיל לפחות 160,903 יצירות ייחודיות של מוציאים לאור חדשותיים.
ואז יש את הפרט הקטן שתופס את העין יותר מכל המספרים. חוקר ב-OpenAI בשם ניק ריידר סיפר לברוקמן על "האק לעקוף את חומת התשלום של הניו יורק טיימס".
ברוקמן ענה: "אה, נחמד".
שתי מילים. בלי דיון, בלי שאלה משפטית, בלי אף אחד בחדר שאמר רגע.
המסמכים מתארים גם מאמץ מכוון להסיר הודעות זכויות יוצרים מנתוני האימון לפני שהגיעו למודל, כי החוקרים "לא היו רוצים שהמודל יפלוט" הודעות כאלה למשתמשים. מיקרוסופט ו-OpenAI לא הגיבו לפניות.
אז למה זה לא בהכרח ישנה כלום?
כאן נכנס הפער בין מה שנראה נורא לבין מה שנחשב לא חוקי.
בתי המשפט בארצות הברית היו עד כה נוחים למדי לחברות הבינה המלאכותית בסוגיית השימוש ההוגן. בתחילת ספטמבר הגיש ממשל טראמפ כתב טענות שתומך בעמדת OpenAI בנוגע לשימוש בחומר מוגן לאימון מודלים. התביעה של הטיימס, שהוגשה בסוף 2023, עדיין רחוקה מהכרעה.
וזאת בדיוק הנקודה שמטרידה אותי. אנחנו חיים בתקופה שבה מסמכים פנימיים של התאגידים הכי גדולים בעולם אומרים דבר אחד, הצהרות הפומביות שלהם אומרות דבר הפוך, והפער הזה לא באמת גובה מחיר. אותה תמונה חזרה בתביעה של סוני וורנר נגד אנתרופיק, ובכל סיבוב אחר של מחלוקת על מקור הנתונים.
אני לא טוען שאימון על תוכן ציבורי הוא בהכרח פשע. אני כן טוען שכשמנהל בכיר במיקרוסופט כותב לעצמו את המילים "גניבת העבודה הגדולה בהיסטוריה האנושית", ושנה אחר כך החברה שלו ממשיכה בדיוק באותה דרך, אי אפשר יותר לטעון שאף אחד לא ידע.
הם ידעו. הם כתבו את זה. הם פשוט לא חשבו שמישהו יקרא.
