אמזון מוצפת ב'מדריכי זבל' שנכתבו על ידי בינה מלאכותית עבור משחקים שאפילו לא יצאו עדיין

האינטרנט כבר מזמן מוצף בתוכן גנרי שנוצר על ידי בינה מלאכותית, אבל נדמה שהתופעה האחרונה שוברת שיאים חדשים של חוצפה ואבסורד. פלטפורמת המסחר הענקית Amazon מוצפת בתקופה האחרונה בגל של ספרי הדרכה מזויפים לחלוטין, המכונים ברשת כ"מדריכי זבל" (Guideslop), שנכתבו מאלף ועד תיו על ידי כלי בינה מלאכותית יוצרת. החלק המדהים באמת בסיפור הוא שהספרים הללו מבטיחים לספק טיפים, אסטרטגיות וסודות למשחקים פופולריים שעדיין לא יצאו בכלל לשוק, ושחלקם אפילו לא קיבלו תאריך יציאה רשמי או מידע קונקרטי מצד המפתחים.

גיימרים שחיפשו מידע על כותרים מצופים כמו Gears of War: E-Day, Alien: Isolation 2 או Control: Resonant, נתקלו להפתעתם בספרים פיזיים ודיגיטליים הזמינים לרכישה מיידית תמורת סכומים לא מבוטלים של כ-20 דולר ומעלה. מדובר בהונאה מתוחכמת במיוחד המנצלת את הציפייה הגדולה של הקהל ואת מנגנוני החיפוש האוטומטיים של חנויות הספרים המקוונות. הספרים הללו מגיעים עם עטיפות מרשימות למראה שנוצרו בבירור בגרפיקת AI, ותיאורים מפתחים שמבטיחים לקחת את השחקן יד ביד בדרך לניצחון במשחק שאף אדם בעולם עוד לא זכה לשחק בו.

מה באמת מסתתר בתוך מדריך למשחק שלא קיים?

התעלומה לגבי מה שמכילים הספרים הללו נפתרה כאשר חוקר רשת עצמאי הזמין כמה מהם כדי לבדוק את תכולתם מקרוב. התוצאות שהתגלו בין הדפים היו מביכות ומשעשעות כאחד, וכבר מהעמודים הראשונים היה ברור שלא מדובר ביצירה אנושית. הספר נפתח בתוכן עניינים תמוה במיוחד, שכלל שורות של קישורים דיגיטליים (Hyperlinks) מודפסים על דף נייר פיזי, ללא מספרי עמודים כלל. במקום מדריך ויזואלי מפורט עם צילומי מסך והסברים טכניים כפי שנהוג בתעשייה, הרוכשים קיבלו ספר שנראה כמו רומן ספרותי ארוך ונטול תמונות לחלוטין.

התוכן עצמו מורכב מכמה עשרות עמודים של טקסטים גנריים שנלקחו ועובדו מתוך ערכי הויקיפדיה של המשחקים הקודמים בסדרות הללו, לצד פרקים שלמים המבוססים על המצאות והזיות מוחלטות של מודל השפה. כך למשל, המדריך למשחק Gears of War: E-Day כלל פרק מפורט על "מכניקת הישרדות" ו"לוחמה פסיכולוגית" – אלמנטים שכלל לא ידוע אם יופיעו במשחק הסופי. במקרה של Alien: Isolation 2, הספר הגדיל לעשות והקדיש פרק שלם, כתוב בסגנון עלילתי דרמטי, לדרישות המערכת של המשחק למחשב האישי, למרות שהמפתחים עצמם טרם שחררו אפילו פיסת מידע טכנולוגית אחת על המנוע של המשחק.

הפאדיחות המביכות שנחשפו על גבי העטיפה

ההוכחה החד-משמעית לכך שמדובר בעבודת העתק-הדבק מרושלת של מחוללי טקסט מופיעה לעיתים כבר בתיאור המוצר הרשמי בתוך Amazon. באחד המקרים המביכים ביותר, יוצרי המדריך של Gears of War שכחו למחוק את פקודת ההנחיה (Prompt) שניתנה למודל הבינה המלאכותית לפני כתיבת הטקסט השיווקי. כתוצאה מכך, תיאור הספר באתר נפתח במשפט המשעשע: "הנה תיאור ספר בסגנון אמזון בעל אחוזי המרה גבוהים, שנועד למכור את הספר שלך תוך שמירה על מעורבות רגשית, שכנוע ומיקוד בקורא". פאדיחה כזו מבהירה בדיוק כמה מעט פיקוח אנושי מעורב בתהליך הייצור הזה.

מאחורי הספרים הללו עומדים שמות עט פיקטיביים לחלוטין כמו George D. Brogon או Donald C. Campbell, שמנפקים עשרות מדריכים בקצב מסחרר למשחקים פופולריים כמו Lies of P, Mina the Hollower ואפילו כותרים קלאסיים של Star Fox. כמעט כל התיאורים של הספרים הללו כוללים נוסחאות קבועות שחוזרות על עצמן ומסגירות את מקורן הדיגיטלי, כמו הביטוי השחוק שמופיע בכל וריאציה אפשרית: "Step into the world of...". מדובר בפס ייצור תעשייתי ואוטומטי של תוכן זבל דיגיטלי שמטרתו היחידה היא לעשות סיבוב כספי מהיר על חשבון הצרכנים.

כשהאלגוריתם של אמזון משתף פעולה עם הנוכלים

הבעיה הגדולה ביותר היא ששיטת הפעולה הזו מצליחה להניב רווחים בגלל המנגנון הפנימי של חנות Amazon. כאשר משתמש מבצע הזמנה מוקדמת (Pre-order) למשחק וידאו גדול, האלגוריתם של האתר מזהה את העניין וממליץ לו באופן אוטומטי על מוצרים נלווים רלוונטיים, ובהם אותם מדריכי AI פיקטיביים. הורים שמחפשים מתנה לילדיהם או שחקנים שלא מעורים בפרטי הפיתוח עלולים ליפול בקלות במלכודת הזו, מתוך מחשבה שמדובר במוצר נלווה רשמי ואיכותי שנכתב על ידי מומחים בתחום הגיימינג.

מדריכי משחקים אמיתיים ומקצועיים אכן יוצאים לעיתים קרובות בסמוך להשקת המשחק, אך הם נכתבים על ידי עיתונאים ומומחים שמקבלים גישה מוקדמת ורשמית לגרסאות פיתוח של המשחק מהמפיצות הגדולות. כותבים אלו מפרקים בקפדנות את המכניקות של המשחק, מעצבים מפות מפורטות ומספקים ערך אמיתי לקוראים עם מידע מדויק. לעומת זאת, ספרי ה-AI החדשים מבוססים על גניבה ספרותית מתוחכמת, הזיות של מודלי שפה והמצאות חסרות בסיס שנועדו רק כדי למלא עמודים פיזיים ולהיראות לגיטימיים במבט חטוף.

מלחמה בטחנות רוח דיגיטליות

בעקבות פניות של גולשים זועמים, שירות הלקוחות של Amazon אמנם מסיר חלק מהספרים הללו ומסמן אותם כבעייתיים, אך מדובר במשחק בלתי נגמר של חתול ועכבר. תוך ימים ספורים הספרים הללו עולים מחדש תחת שמות מוכרים שונים ועטיפות מעט שונות, כשהמערכת האוטומטית של האתר נכשלת פעם אחר פעם בסינון התוכן המזויף מראש. נראה כי לחברת הענק אין כרגע אינטרס אמיתי או יכולת טכנולוגית לעצור את תופעת ה"Guideslop", במיוחד לאור העובדה שהיא עצמה משקיעה מיליארדי דולרים בפיתוח כלי בינה מלאכותית ואף משלבת באתר את עוזר הרכישות הווירטואלי שלה, Rufus.

עד שמיזמי הענק הללו ימצאו דרך לסנן את הזבל הדיגיטלי ולשמור על חנות נקייה מהונאות, האחריות והערנות נופלות בעיקר על הצרכנים עצמם. הקהילה נדרשת לגלות חשדנות בריאה, להימנע מרכישת מדריכים לא רשמיים לפני יציאת המשחקים לשוק, ולהסתמך בעיקר על מקורות מידע מוכרים ואמינים ברשת. בעידן שבו מכונות מייצרות טקסטים שיווקיים ללא פיקוח אנושי, לפעמים הדרך הטובה ביותר ללמוד איך לשחק במשחק היא פשוט לחכות שהוא באמת ייצא לחנויות.