מטא נתנה לכל אחד לייצר תמונות שלכם בלי לשאול. לקח לה שלושה ימים להבין את הבעיה
ביום שלישי מטא השיקה פיצ'ר חדש באינסטגרם. ביום שישי היא קברה אותו.
שלושה ימים. זה כל מה שנדרש כדי שאחת החברות הגדולות בעולם תבין מה שכל משתמשת אינסטגרם ממוצעת הבינה בשנייה וחצי: אם נותנים לכל אדם זר לייצר תמונות בינה מלאכותית של כל חשבון ציבורי, בלי רשות ובלי הודעה, זה ייגמר רע.
הפיצ'ר היה חלק מהשקת מיוז, מחולל התמונות החדש של מעבדות הסופר-אינטליגנציה של מטא. הרעיון: מתייגים חשבון ציבורי בפרומפט, והמודל מייצר תמונות חדשות על בסיס הפוסטים שלו. מטא הציגה את זה כרעיון חמוד, "הזמנה מעוצבת לאירוע" או "גרפיקה מותאמת אישית". לפי דיווח של טק קראנץ', האינטרנט ראה את זה קצת אחרת: מכונת דיפ-פייק חינמית, מובנית בתוך אינסטגרם, שמופעלת על הפנים שלכם.
וככה זה עבד בפועל: נכנסים למטא AI, כותבים פרומפט, מתייגים חשבון ציבורי, וזהו. המודל שואב את התמונות מהפוסטים של אותו חשבון ומייצר גרסאות חדשות שלהן, בכל סגנון ובכל סיטואציה שעולה על דעתכם. בעל החשבון לא מקבל התראה, לא נשאל, ולרוב גם לא יידע שזה קרה. הפנים שלו כבר עובדות אצל מישהו אחר.
ברירת המחדל: אתם בפנים
הפרט המקומם ביותר בסיפור הזה הוא לא עצם הפיצ'ר. זו ברירת המחדל.
מטא לא שאלה אף אחד אם הוא רוצה להשתתף. כל חשבון ציבורי נכנס למאגר אוטומטית, ומי שלא רצה שיציירו אותו מחדש נאלץ לצלול לעומק ההגדרות ולכבות מתג ששמו "אפשר לאנשים ליצור עם התוכן שלך ולעשות בו שימוש חוזר". האפשרות השנייה: להפוך את החשבון לפרטי. כלומר, או שאתם נעלמים מהמרחב הציבורי, או שאתם חומר גלם.
לפי אנגדג'ט, הביקורת הגיעה מכל הכיוונים בבת אחת. סוכנות הכישרונות ההוליוודית סי-איי-איי, שמייצגת בין השאר את טום הנקס ואת מריל סטריפ, פנתה ישירות למטא והבהירה: "אסור ששמו, דמותו, קולו או יצירתו של אדם ישמשו צד שלישי כלשהו, כולל מודלים של בינה מלאכותית, ללא הסכמה מפורשת ומתועדת". איגוד השחקנים האמריקאי קרא לחבריו לבטל את ההסכמה. ארגונים למניעת ניצול מיני הזהירו שהכלי פשוט מזמין סחיטה.
ביום שישי מטא עדכנה את הפוסט הרשמי של ההשקה בניסוח שכבר הפך לקלאסיקה של עמק הסיליקון: "שמענו את המשוב שהפיצ'ר הזה החטיא את המטרה, ולכן הוא כבר אינו זמין".
החטיא את המטרה. כאילו מדובר בגוון לא מוצלח של כפתור.
שלושה ימים של כאוס, צעד אחר צעד
שווה לעצור רגע על ציר הזמן, כי הוא מספר את הסיפור טוב יותר מכל ניתוח.
יום שלישי: מטא מכריזה בחגיגיות על מיוז, ומציגה את תיוג החשבונות הציבוריים כאחד הפיצ'רים המרכזיים. יום רביעי: הרשתות מתמלאות בהדרכות איך לברוח. יום חמישי: טק קראנץ' מפרסם מדריך מסודר שמסביר למשתמשים איך לחסום את הפיצ'ר, והוא הופך לאחת הכתבות הנקראות באתר. חשבו על האבסורד: כתבת ההסבר הכי פופולרית על המוצר החדש של מטא עסקה באיך להתגונן מפניו. יום שישי: מטא מקפלת.
ובאמצע כל זה, ראש אינסטגרם, אדם מוסרי, הספיק להתראיין לפודקאסט ולהסביר שמי שלא אוהב תוכן בינה מלאכותית בפיד פשוט יכול לבחור לא לראות אותו, ושהפלטפורמה מעדיפה לתייג תוכן כזה ולא לסנן אותו. גישה לגיטימית לוויכוח על הפיד. קצת פחות משכנעת כשבאותו שבוע החברה שלך הופכת את הפנים של המשתמשים לחומר גלם בלי לשאול.
איך אף אחד בחדר לא עצר את זה?
אני מנסה לדמיין את הישיבה שבה אישרו את הפיצ'ר הזה. יושבים סביב השולחן אנשי מוצר מהמבריקים בעולם, שכל אחד מהם ראה בעשור האחרון מה קורה כשמשחררים כלי בינה מלאכותית פתוח על תמונות של אנשים אמיתיים. עירום מזויף של סלבריטאיות. סחיטת קטינים. התחזויות. כל זה קרה, מתועד, ידוע.
ובכל זאת, אף אחד לא קם ואמר: רגע, אולי נשאל את האנשים לפני שאנחנו הופכים את הפנים שלהם לחומר גלם?
התשובה, כנראה, פשוטה ומדכאת: המרוץ. מטא רודפת אחרי OpenAI ואחרי גוגל בשוק מחוללי התמונות, ומיוז היה אמור להיות תשובת הנגד הגדולה. כשרצים כל כך מהר, שאלות של הסכמה נדחקות לוועדה שתתכנס אחרי ההשקה. ואת המחיר משלמים המשתמשים, שהפכו בלי ידיעתם למוצר הבטא.
שווה לזכור גם את ההקשר: זו אותה מטא ששילמה בשנה האחרונה מיליארדים על חוקרי בינה מלאכותית, שהקימה מעבדות סופר-אינטליגנציה ייעודיות, ושמארק צוקרברג הכריז בה שוב ושוב שהעתיד הוא סופר-אינטליגנציה אישית לכל אחד. באותו שבוע שבו הפיצ'ר קרס, מטא גם השיקה גרסה חדשה של מודל מיוז ספארק למפתחים והתגאתה ביכולות שלו. הטכנולוגיה, אין ויכוח, מרהיבה. אבל מתברר שבדרך לסופר-אינטליגנציה, מישהו שכח אינטליגנציה בסיסית של כבוד לאנשים.
לאן מכאן?
קודם כל, ברמה הפרקטית: מה שמטא הסירה הוא הפיצ'ר עצמו, היכולת לתייג חשבון ולייצר ממנו תמונות. המתג בהגדרות, זה שקובע אם אנשים אחרים יכולים "ליצור עם התוכן שלך ולעשות בו שימוש חוזר", נשאר במקומו. אם יש לכם חשבון ציבורי באינסטגרם, שווה להשקיע שתי דקות, להיכנס להגדרות ולבדוק מה מסומן שם. לא בגלל הפיצ'ר שמת ביום שישי, אלא בגלל אלה שעוד יבואו.
כי מטא תספוג את הביקורת, תלמד את הלקח לרבעון אחד, ותנסה שוב בגרסה מעודנת יותר. זה התסריט הקבוע. אבל הסיפור הזה חשוב דווקא בגלל המהירות של הנסיגה: כשסוכנויות ענק, איגודי שחקנים ומיליוני משתמשים צועקים יחד, גם אחת החברות החזקות בעולם מקפלת פיצ'ר תוך שלושה ימים.
הפעם זה עבד. אבל תחשבו על זה רגע: הפיצ'ר הבא כבר בפיתוח, ההגדרות שלכם עדיין קבורות שבע שכבות עמוק, וברירת המחדל, כמו תמיד, היא שאתם בפנים.
עד הפעם הבאה שמישהו במטא יחליט שהפנים שלכם הן רעיון חמוד.
