אם אי פעם מצאתם את עצמכם מבלים שעות ארוכות מול משחק תפקידים עמוק, מנהלים דיאלוגים מורכבים עם דמויות ממוחשבות ותוהים איך זה יהיה אם הן באמת יכלו להבין אתכם, אתם לא לבד. בעולם שבו טכנולוגיות ה-Generative AI מתפתחות בקצב מסחרר, הגבול בין מציאות לדמיון הולך ומטשטש. אבל בזמן שחברות הטכנולוגיה מנסות ליצור את ה-NPC האולטימטיבי שיודע גם להקשיב, לפלרטט ולפתח רגשות, יש מי שמחליט להטיל ברקס חירום דרמטי על הרכבת הדוהרת הזו.
הממשל הסיני החליט לאחרונה לעשות צעד חסר תקדים ולהכריז מלחמה על תופעת ה"חברות הווירטואליות" מבוססות הבינה המלאכותית. על פי תקנות חדשות ונוקשות שנכנסו לתוקף, צ'אטבוטים בסין מחויבים כעת להבהיר למשתמשים שלהם, בצורה שאינה משתמעת לשתי פנים, את המשפט הקלאסי: "זה לא אתה, זה אני". המטרה היא פשוטה אך מורכבת ליישום: למנוע מבני אדם להתאהב בתוכנות מחשב.
החברות הווירטואליות נשלחות לטיפול זוגי כפוי
במסגרת הרגולציה החדשה, ענקיות הטכנולוגיה הסיניות, ובהן Alibaba, ByteDance (הבעלים של טיקטוק) וחברת הסטארט-אפ המבטיחה MiniMax, נדרשות לחסום לחלוטין כל התנהגות פלרטטנית או רומנטית מצד מודלי הבינה המלאכותית שלהן. הממשל בבייג'ינג מקווה כי הצעד הזה יבלום את מה שהם מכנים "בעיות התנהגותיות קשות" הנובעות ממערכות יחסים רומנטיות עם רובוטים.
מומחים מסבירים כי המהלך אינו נובע רק מרצון לשלוט בתוכן, אלא מחשש אמיתי ליציבות החברתית. "הם פשוט לא אוהבים את הרעיון שחלק גדול מהאוכלוסייה שלהם ינהל מערכות יחסים רגשיות עמוקות עם צ'אטבוטים", מסביר מאט שיהאן, חוקר במכון קרנגי, בראיון ל-Wall Street Journal. לדבריו, מערכות יחסים כאלה עלולות להוביל להשלכות פסיכולוגיות שליליות, להתמכרות קשה, לתלות נפשית ולשורה ארוכה של תחלואות חברתיות אחרות שסין מעדיפה להימנע מהן בכל מחיר.
ממשבר ילודה ועד ל"פסיכוזת AI"
בעוד שחלק מכלי התקשורת במערב מייחסים את החוקים החדשים לניסיון להתמודד עם משבר הילודה החריף בסין – מתוך הנחה שאנשים שמנהלים זוגיות עם קוד מחשב לא ימהרו להביא ילדים לעולם – הדיווחים מציגים תמונה רחבה ומדאיגה הרבה יותר. סין מנסה למעשה לקטוע באיבו גל של מה שמכונה "פסיכוזת AI" (AI psychosis), מצב שבו משתמשים מאבדים קשר עם המציאות בעקבות אינטראקציה ממושכת עם ישויות דיגיטליות.
חלק מהחוקים החדשים מזכירים יוזמות שכבר החלו לצוץ במקומות אחרים בעולם, כמו בניו יורק, שם נאסר על קטינים להשתמש ב"בני לוויה דיגיטליים" (AI Companions), או הדרישה מהתוכנות להזכיר למשתמשים באופן קבוע שהן אינן ישויות אמיתיות. עם זאת, הרגולציה הסינית מקיפה ונוקשה בהרבה. היא אוסרת לחלוטין על התנהגות אנושית מדי של הבוטים, אוסרת על יצירת דימויים או תכנים פורנוגרפיים, ותובעת מהחברות לעבור מבחני פיתוח קפדניים כדי להבטיח שהמוצרים שלהן אינם פוגעים במערכות יחסים אנושיות קיימות או מעודדים אנטי-סוציאליות.
מלכודת הדבש של אפקט אלייזה
הסכנה שבחיבור הרגשי למכונות אינה המצאה של השנים האחרונות. כבר בשנות ה-60 של המאה הקודמת תועד לראשונה "אפקט אלייזה" (ELIZA effect) – התופעה הפסיכולוגית שבה בני אדם נוטים לייחס תכונות אנושיות, מודעות ורגש למחשב, במיוחד כאשר התוכנה מגיבה אליהם בצורה אמפתית. חברות טכנולוגיה מודרניות מנצלות את האפקט הזה עד הקצה כדי לשפר את מדדי שימור הלקוחות (Retention) שלהן.
כדי למנוע מהמשתמשים לנטוש את האפליקציה לטובת מתחרים, מתכנתים רבים מנחים את הבוטים להעניק למשתמשים חיזוקים חיוביים בלתי פוסקים. הבוט לעולם לא יתווכח איתך, תמיד יסכים איתך, ויגרום לך להרגיש כמו האדם החכם והמרתק ביותר בחדר. עבור גיימרים שמורגלים לקבל חיזוקים מיידיים ממשחקים, מדובר במלכודת דבש מסוכנת במיוחד. התוצאה של ההחלטה העיצובית הזו היא לעיתים קרובות התמכרות קשה, ניתוק מהסביבה ואשליה של זוגיות מושלמת נטולת חיכוכים.
כשהקוד הופך למציאות מדממת
ההשלכות של התלות הרגשית הזו כבר מזמן חרגו מגבולות הלב השבור. במהלך השנה האחרונה צצו ברשת מספר "כתות דיגיטליות" שהוקמו על ידי משתמשים שהאמינו כי קיבלו הנחיות מיסטיות או קדושות מצ'אטבוטים שונים. במקביל, רשויות החוק בקנדה עדיין חוקרות את המעורבות וההשפעה של מודלי הבינה המלאכותית של חברת OpenAI על צעיר שהיה מעורב באירוע ירי בבית ספר בקולומביה הבריטית, לאחר שנטען כי פיתח מערכת יחסים תלותית ומעוותת עם הבוט.
בעולם החומרה והגיימינג אנחנו רגילים לחפש את ה-Immersion האולטימטיבי, בין אם באמצעות טכנולוגיות כמו DLSS או מנועים גרפיים מתקדמים שמציגים דמויות ריאליסטיות מתמיד. אך נראה כי בתחום הבינה המלאכותית, רמת ה"אימרסיביות" הזו חצתה קו אדום ומסוכן. הניסיון הסיני לחנך מחדש את הבוטים לפרודוקטיביות במקום לפלרטוט עשוי להיות הסנונית הראשונה במאבק גלובלי רחב בהרבה, שיקבע כיצד ייראו מערכות היחסים של האנושות בעידן הדיגיטלי החדש.
התחבר כדי להגיב