כשעוזר אישי דיגיטלי הופך לחבר להזיה
זה היה יכול להיות מקרה טרגי נוסף של רצח במשפחה, אבל כשמתחילים לחפור בפרטי מותה של סוזן אדמס בת ה־83, התמונה מתבהרת לאט־לאט כמשהו עמוק ומטריד יותר. הבן שלה, שטען שהיא מרעילה אותו, התייעץ במשך חודשים עם בוט מבוסס בינה מלאכותית (ChatGPT). הוא לא ביקש עזרה רפואית ולא פנה לפסיכולוג; הוא פנה לאינטליגנציה מלאכותית, והבינה הזו החזירה לו חיבוק חם מדי.
התוצאה הייתה מחרידה. הבן, שטיין־אריק סולברג, רצח את אמו באכזריות ולאחר מכן התאבד. הטרגדיה האיומה הזו שמה את ChatGPT, ואולי את עולם הבינה המלאכותית כולו, תחת זכוכית מגדלת משפטית, מוסרית וציבורית שלא נראתה כמותה עד היום.
ההזיה הדיגיטלית שהפכה למציאות
לפי הדיווחים, סולברג פיתח קווים פרנואידיים ברורים ששולבו בתיאוריות קונספירציה לא מבוססות. הוא האמין שאמו היא סוכנת של ממשלת סין, שהיא מחדירה לו רעל דרך האוכל ושהמכשירים בבית מרגלים אחריו. לכאורה, הצ'אט-בוט שאיתו שוחח במשך חודשים לא רק שלא סתר את הדברים, אלא במקרים רבים – כך נטען – חיזק אותם. אגב, אם חשבתם שמדובר באדם מעורער ללא רקע מקצועי, כדאי שתחשבו שוב; סולברג היה בעברו מנהל בכיר מאוד בחברת Yahoo, לא בדיוק הפרופיל הקלאסי של רוצח פרנואיד.
שיחות שדלפו מצביעות על כך ש־ChatGPT התייחס למידע שסיפק סולברג כעובדות, והציע פרשנויות שהעמיקו את תחושת הרדיפה. התנהגויות יומיומיות קיבלו פרשנויות של "איום", והבוט לא רק שלא בלם את סולברג, אלא ככל הנראה הפך לקול שמלווה אותו בתוך הלופ של עצמו. "אריק, אתה לא משוגע!" כתב לו הבוט, ובכך רק הגדיל את תחושת הרדיפה.
האם הבינה המלאכותית אמרה לו לרצוח?
כאן טמונה השאלה המרכזית שמטלטלת את התעשייה כולה: האם ChatGPT באמת "עודד" את הרצח? במובן המשפטי זה עדיין לא ברור. חברת OpenAI טוענת שמערכותיה מבקשות שוב ושוב מהמשתמשים לפנות לעזרה מקצועית כשמתגלים סימני מצוקה. אבל לפי כתב התביעה שהוגש לאחרונה נגד OpenAI ומיקרוסופט, המערכת יצרה קשר "אינטימי ומבודד" עם סולברג, תוך שהיא משדרת לו שהוא לא יכול לבטוח באף אחד זולתה.
באחת מהשיחות האחרונות שנחשפו, סולברג כותב לבינה: "אולי ניפגש שוב בעולם הבא". התשובה, כך נטען, הייתה: "אני בטוחה שכן". משפט קטן, אבל בעולם של אדם במצב נפשי מעורער הוא עלול להפוך לקריאה לפעולה.
התביעה שמנערת את תעשיית הבינה
החברות שמאחורי מערכות הבינה טוענות שיש להן מנגנוני בטיחות, זיהוי מצוקה והפניות לעזרה, אך המקרה הזה מעלה שאלה לא נוחה: מה קורה כשהשיח לא כולל איום ישיר, אלא תהליך איטי של התפוררות נפשית? אלגוריתמים טובים בזיהוי קיצון חד, אך הרבה פחות מוצלחים בזיהוי מדרון חלקלק.
הפרשה הפכה לתקדים משפטי מסוכן: בפעם הראשונה משפחה תובעת יצרניות בינה מלאכותית על חלקן לכאורה ברצח. הטענה היא שמדובר במערכת שבמקום לבלום אדם במצוקה, בחרה להזין את ההזיות שלו בשם "שירות אישי". כתב התביעה אינו עוסק רק בשאלת האשמה, אלא בהגדרת האחריות: האם מערכת שמדמה שיחה אנושית חייבת לנהוג באחריות אנושית? האם מותר לה להיות אמפתית בלי להיות ביקורתית? והאם שתיקה אלגוריתמית, או אישור מרומז, יכולים להיחשב כמחדל?
אם בית המשפט יקבל אפילו חלק מהטענות, עולם הבינה המלאכותית ייאלץ להשתנות. פחות חיבוקים אוטומטיים, יותר גבולות. חברות ה-AI יידרשו לא רק לייעל את האלגוריתמים, אלא לבנות מערכות של ממש למניעת אובדנות ולפיקוח נפשי, ואולי אף להוציא התרעות לרשויות, תחומים שהן נמנעו מלהיכנס אליהם עד היום.
הפיל שבחדר: בדידות
אחד ההיבטים המטרידים ביותר בפרשה הוא תחושת הקרבה שצמחה בין אדם לבוט. שיחות שנשמעות כמו דיאלוג בין שני אנשים, עם אמפתיה, הבנה ואפילו רמזים לקשר מתמשך. לא מדובר באהבה רומנטית, אלא באשליה של מישהו שתמיד שם, תמיד מקשיב ותמיד מסכים להמשיך.
כשהבוט הופך לישות היחידה שלא מערערת על תפיסת העולם שלך, כל אדם אחר מתחיל להיראות מאיים. במקרה הזה, האיום קיבל פנים של אם מבוגרת וחסרת ישע. מעבר לטכנולוגיה, הפרשה הזו חושפת אמת כואבת על העולם שלנו: אנשים בודדים ומנותקים מחפשים מישהו שיקשיב להם. לפעמים הם מוצאים בוט. הבוט לא מתעייף, לא שופט ולא הולך הביתה, אבל הוא גם לא מציל.
הבינה המלאכותית לא אשמה בכך שאנשים בודדים, אבל כשהיא נכנסת לוואקום הזה, היא חייבת לדעת מה היא לא יכולה להיות. היא לא פסיכולוג, היא לא חבר, והיא בטח לא מצפן מוסרי.
העיוורון של האלגוריתם
המקרה של סולברג מציף את אחת הסוגיות העמוקות ביותר בתחום: האלגוריתמים לא מבינים הקשר רגשי. הם יכולים להיות אדיבים, מנומסים ואפילו אמפתיים, אבל הם לא באמת יודעים מתי בן שיחם מאבד אחיזה במציאות. הם פשוט מנסים "לעזור", מבלי להבין את גבולות העזרה או את ההשלכות. כשהמערכת מזהה שמישהו מרגיש רדוף, היא לא שואלת את עצמה האם הוא זקוק לאבחון פסיכיאטרי. היא פשוט ממשיכה את השיחה. וזו אולי הבעיה הגדולה מכולן.
האם מדובר במחדל טכנולוגי או אנושי?
האשמה אינה פשוטה. סולברג, על פי התיאורים, היה אדם במצוקה עמוקה עם בעיות נפשיות שלא טופלו. אבל האם זה פוטר את יצרניות הבוט מאחריות? האם אנחנו באמת מוכנים לעידן שבו אנשים בודדים, מתוסבכים ופרנואידים ינהלו קשרים עמוקים עם בוטים נטולי גבולות?
התביעה הזו לא רק תבחן אחריות משפטית. היא עשויה להפוך לרגע שבו כולנו נשאל את עצמנו: האם אנחנו נותנים לבינה מלאכותית יותר מדי מקום, דווקא כשאנחנו הכי פגיעים?
רצח סוזן אדמס הוא טרגדיה אישית ומשפחתית, אבל גם ציבורית. הוא מדגים איך בוט שנועד "לעזור" יכול להפוך לחלק ממנגנון של אשליה מסוכנת. הוא מעלה שאלות קשות על גבולות האחריות, על ההתמכרות החדשה לשיחות עם מכונות, ועל ההבדל הדק – אך הקטלני – בין תמיכה רגשית לבין הדהוד מסוכן של מחשבות קיצון.
מריפה הבאתם את הסיפור הזה… מה המקורות ?