הטרגדיה של סוצ'יר בלאג'י: מבפנים אל התראת הסכנה
מותו של סוצ'יר בלאג'י, חוקר מוביל לשעבר בחברת OpenAI, הפך לנקודת ציון כואבת בדיון הציבורי על אתיקה ושקיפות בתחום הבינה המלאכותית. בלאג'י, שגופתו נמצאה בדירתו בסן פרנסיסקו ב-26 בנובמבר 2024, היה מהקולות הבודדים שהעזו לבקר את השיטות בהן משתמשות החברות המובילות לאימון מודלים כמו ChatGPT.
בלאג'י, בן 26 בלבד, שירת כחוקר במשך ארבע שנים ב-OpenAI, והיה מעורב בפרויקטים משמעותיים כמו פיתוח ChatGPT. לדבריו, ההבנה על השפעת הנתונים המוגנים בזכויות יוצרים על מודלים גנרטיביים הגיעה רק לאחר עזיבתו את החברה. "השימוש בנתונים ליצירת מודלים שמחליפים מוצרים קיימים הוא בעייתי מהיסוד," כתב בפוסט שהפך ויראלי.
הפוסט הויראלי
ההתמודדות עם ביקורת על OpenAI
הביקורת של בלאג'י התפרסמה באוקטובר האחרון בראיון עם ניו יורק טיימס, בו טען כי OpenAI הפרה חוקי זכויות יוצרים בארה"ב כשהשתמשה בתוכן מוגן לאימון ChatGPT. על פי טענותיו, "טכנולוגיות כמו ChatGPT פוגעות באינטרנט וביוצרים שבנו אותו".
מאז, עיתונים מובילים כמו הניו יורק טיימס, לצד סופרים מפורסמים כדוגמת ג'ון גרישם, הגישו תביעות נגד OpenAI בטענה כי השתמשה באופן לא חוקי במאמרים, ספרים ודאטה מבלי לקבל אישור מהיוצרים. החברה מצדה טוענת כי השימוש בנתונים מתבסס על "עקרונות השימוש ההוגן" המאפשרים למודלים להתפתח מבלי לפגוע ביוצרים.
לחצים על מתריעים: צל כבד על תעשיית ה-AI
מותו של בלאג'י, שהוגדר כהתאבדות על ידי רשויות החוק, מעורר דיון כואב על מצבם של מתריעים בתעשייה. לחצים אדירים מופעלים על עובדים בכירים בתחום, במיוחד אלו המביעים ביקורת פומבית. לאחר מותו של בלאג'י, ארגוני עובדים קוראים להחיל הגנות חוקיות נרחבות יותר למתריעים ולשפר את השקיפות בתאגידי הטכנולוגיה.
החודש פורסם מכתב פתוח מטעם קבוצת עובדים מ-OpenAI ו-Google DeepMind, הקורא לחברות להגן על עובדים שירצו להתריע על כשלים או התנהלות לא אתית בתהליכי פיתוח מודלים גנרטיביים. "אנחנו חייבים להגן על האנשים האלו, אחרת הטכנולוגיה שלנו תמשיך להתפתח על חשבון האמת," נכתב במכתב.
מה הלאה? שקיפות ואחריות בתעשיית ה-AI
מקרה זה מסמן שלב נוסף בדיון הרחב על אחריות תאגידית בתחום הבינה המלאכותית. בעוד חברות כמו OpenAI שואפות להוביל את השוק, עליהן להתמודד עם השאלות הקשות על שימוש בנתונים, הוגנות, ואתיקה מול החברה הרחבה.
למרות שהחברות ממשיכות להסתמך על "שימוש הוגן" כהגנה משפטית, מומחים טוענים כי המונח אינו חזק כפי שנדמה. מקרים כמו זה של גוגל עם פרויקט הספרים, שהוזכר על ידי בלאג'י עצמו, מוכיחים כי הטענות הללו עשויות להיפסל בבית המשפט. מותו של סוצ'יר בלאג'י הוא טרגדיה, אך גם קריאת השכמה לחברות ולציבור. עלינו להבטיח שהפיתוח המהיר של בינה מלאכותית לא יבוא על חשבון ערכים אנושיים בסיסיים של שקיפות, אתיקה ושמירה על הזכויות של כולנו.
מטריד