הכלי שישב במגירה, כי פחדו שהלקוחות יברחו
ב-2024 דיווח הוול סטריט ג'ורנל על סוד קטן של OpenAI: לחברה כבר היה כלי שמסמן טקסט שנכתב על ידי צ'אט-ג'יפיטי. הוא עבד. הוא היה מוכן. והוא נשאר במגירה.
אחת הסיבות, לפי הדיווח: החשש שמשתמשים פשוט יעברו למתחרים שלא מסמנים כלום.
השבוע הרעיון הזה יוצא סוף סוף לאוויר. לא כי OpenAI השתכנעה. כי האיחוד האירופי לא השאיר לה ברירה.
ב-5 באוקטובר הודיעה החברה שבשבועות הקרובים כל טקסט שצ'אט-ג'יפיטי וקודקס מייצרים עבור משתמשים באיחוד האירופי יקבל סימן מים בלתי נראה. בכל המנויים, כולל החינמי. השיטה נקראת טקסטגריין.
איך מסמנים טקסט בלי שאף אחד יראה?
סימן מים בתמונה הוא לוגו שקוף בפינה. בטקסט אין פינה. אז OpenAI עשתה משהו מתוחכם יותר: היא מטה קלות את בחירת המילים של המודל.
בכל רגע שבו מודל שפה כותב, יש לו רשימה של מילים אפשריות להמשך המשפט. טקסטגריין משתמש במפתח סודי כדי למיין את הרשימה הזאת, ודוחף את המודל, בעדינות, לכיוון מילים מסוימות. משפט אחד לא יגלה כלום. אבל מאות דחיפות כאלה יוצרות דפוס סטטיסטי שגלאי שמחזיק במפתח יכול לזהות, רק מתוך הטקסט עצמו.
הקורא לא רואה כלום. הטקסט נשמע אותו דבר. ומכיוון שהסימן חי בתוך המילים, הוא עובר יחד איתן בהעתק-הדבק. OpenAI פרסמה גם דו"ח טכני מלא, שנכתב יחד עם חוקרים מאוניברסיטת פנסילבניה ומייל.
שני דברים שהחברה מדגישה: הסימן לא מזהה את המשתמש, ולדבריה הוא לא פוגע באיכות התשובות או במהירות שלהן.
ורגע, זה לא רק צ'אט-ג'יפיטי. גם קודקס, כלי התכנות של החברה, נכנס לתמונה. כלומר, מתכנת בברלין שמבקש מהסוכן לכתוב פונקציה יקבל קוד שנושא בתוכו חתימה סטטיסטית. קשה לי לראות איך גלאי ימצא דפוס כזה בקוד שעבר שלושה סבבי תיקונים ובדיקה של עמית לעבודה.
עשרה אחוזים של מילים נרדפות
ועכשיו החלק שבו זה נהיה מצחיק. OpenAI עצמה בדקה כמה קל להיפטר מהסימן. התשובה: די קל.
בניסוי אחד החוקרים החליפו 10% מהמילים בטקסט במילים נרדפות. שיעור הזיהוי צנח מכ-92% לכ-66%. יותר מרבע מהטקסטים שזוהו קודם פשוט נעלמו מהרדאר, אחרי עריכה שכל תלמיד תיכון יכול לעשות בחמש דקות.
וזה לא הכל. לפי החברה, קטעים קצרים, תשובות במתמטיקה וטקסטים מתורגמים קשים לזיהוי עוד יותר. תחשבו על זה רגע: מישהו כותב בעברית, מבקש מצ'אט-ג'יפיטי לתרגם לגרמנית, ושולח. הסימן כנראה כבר לא שם.
בגלל כל זה, הגלאי לא פתוח לציבור. רק חוקרים וארגונים מומחים שעברו אישור יקבלו גישה בשלב הראשון. כשמדובר בתמונות ובאודיו, יש ל-OpenAI בודק פומבי. בטקסט, היא לא מוכנה להתחייב.
מה שהסימן לא יכול להוכיח
החלק הכי מעניין בהודעה של OpenAI הוא לא מה הטכנולוגיה עושה, אלא כמה זמן החברה מקדישה להסביר מה היא לא עושה.
היעדר סימן, לדבריה, "לא מוכיח שהטקסט נכתב על ידי אדם". אולי הוא קצר מדי, אולי נערך, ואולי בכלל נכתב על ידי מודל של חברה אחרת. וגם כשהסימן כן נמצא, הוא יכול להעיד רק שמערכת של OpenAI יצרה או עיבדה חלק מהטקסט, "אבל לא כמה שיקול דעת אנושי, עריכה או יצירתיות הושקעו בו".
הניוזלטר דה ראנדאון קלט את זה מיד: OpenAI ממצבת את טקסטגריין יותר כמאמץ לעמוד בדרישות החוק, ופחות כמשהו שהיא באמת מאמינה בו.
ואני מבין למה. מי שראה מה קרה לאנתרופיק בקיץ האחרון יודע שהסימן הזה הוא מוקש.
הלקח שאנתרופיק לימדה את כולם
באוגוסט הודיעה אנתרופיק שקלוד יסמן את הטקסטים שלו. בניגוד ל-OpenAI, היא הלכה עד הסוף: בכל העולם, בכל המוצרים, על בסיס טכנולוגיית הסימון של גוגל.
התגובה ברדיט הגיעה מהר. לפי טק קראנץ', משתמש אחד כינה את המהלך "לא אתי" ו"מגעיל", וכתב: "אני נתתי את ההוראות, ההקשר, ההחלטות ואינספור שיפורים. קלוד היה הכלי". משתמש אחר הגיב בתשובה שאני עדיין צוחק ממנה: "הבחור לא הצליח אפילו להתלונן על קלוד בלי להשתמש בקלוד כדי לכתוב את התלונה".
OpenAI למדה את השיעור. הסימון רק באירופה, רק כי חייבים, וכבוי כברירת מחדל בכל מקום אחר. מפתחים שמשתמשים בממשק התכנות שלה יכולים להפעיל אותו בכל העולם, אבל רק אם ירצו. ועוד דבר קטן: לפי דה ראנדאון, OpenAI טוענת שבבדיקות שלה טקסטגריין השתווה למערכת של אנתרופיק או עקף אותה. גם בסימון כנראה צריך לנצח.
ומה זה אומר עלינו?
ישראל לא חברה באיחוד האירופי. כלומר, נכון להיום, מי שכותב עם צ'אט-ג'יפיטי מתל אביב לא אמור לקבל את הסימן כברירת מחדל. סטודנט בפריז כן. סטודנט ברמת גן לא.
ומה עם סטארטאפ ישראלי שמוכר שירות ללקוחות בגרמניה דרך הממשק של OpenAI? הוא יצטרך לשבור את הראש בעצמו ולהחליט אם להדליק את הסימון. רגולציה אירופית, כמו שקורה לא פעם, מגיעה גם למי שלא חבר במועדון.
וזאת בדיוק הבעיה. כללי השקיפות של חוק הבינה המלאכותית האירופי נכנסו לתוקף ב-2 באוגוסט, והם דורשים שתוכן שנוצר על ידי בינה מלאכותית יסומן כך שמערכות אחרות יוכלו לזהות אותו. רוב החברות הגדולות, כולל אנתרופיק, גוגל, מטא, מיקרוסופט ו-OpenAI, התחייבו לעמוד בקוד ההתנהגות האירופי בנושא. אבל אותו טקסט עצמו מקבל יחס שונה לפי הכתובת של מי שביקש אותו.
אני חושב שסימני מים בטקסט הם רעיון נכון, ולא בגלל שאני רוצה לתפוס סטודנטים. בעולם שבו בוטים כותבים ביקורות, כתבות וחוות דעת בכמויות תעשייתיות, אנחנו צריכים דרך כלשהי לדעת מה מגיע ממכונה. אבל סימן שנעלם אחרי עשר דקות של עריכה, ושאי אפשר לבדוק בלי אישור מיוחד, לא פותר את זה. הוא רק מאפשר לכולם לסמן וי מול הרגולטור.
OpenAI גנזה את הכלי הזה פעם אחת מחשש שהמשתמשים יברחו. עכשיו היא הוציאה אותו מהמגירה, אבל דאגה שיהיה קל מאוד לברוח ממנו.
