תארו לעצמכם שאתם משקיעים מאות שעות עבודה באנימציה מורכבת, כתיבת תסריט מדעי קפדני ועיצוב סאונד מושלם, רק כדי שאלגוריתם עיוור יחליט בשבריר שנייה שהעבודה שלכם היא זבל שנוצר על ידי בוט. זה בדיוק הסיוט שהפך למציאות עבור ערוץ המדע הפופולרי Kurzgesagt, אחד מערוצי התוכן המוערכים והאהובים ביותר ברשת. הערוץ, שקנה את עולמו בזכות סרטוני האנימציה הצבעוניים והסבריו המרתקים בגובה העיניים, מצא את עצמו נלחם במערכות הסינון האוטומטיות של YouTube, שפשוט החליטו לחנוק לו את החשיפה.
הסיוט של כל יוצר תוכן: כשאלגוריתם החשיפה מחליט להעלים אותך
הכל התחיל בצורה די מינורית, כאשר הצוות של Kurzgesagt (שמשמעות שמו בגרמנית היא "בקצרה") שם לב לתנודות מוזרות ובלתי מוסברות בנתוני הצפיות של הסרטונים האחרונים שלהם. השיא הגיע עם סרטון חדש שעסק בטורפי-על מיקרוסקופיים, נושא מרתק שכרגיל זכה להשקעה אדירה של חודשי עבודה. אלא שבמקום להמריא, הסרטון הציג את אחד מנתוני הפתיחה הגרועים ביותר בהיסטוריה של הערוץ, מה שהדליק מיד נורות אדומות אצל היוצרים והבהיר להם שלא מדובר בסתם "יום חלש" באלגוריתם.
לאחר בדיקה מעמיקה של הנתונים, פנו אנשי הערוץ לתמיכה של YouTube כדי להבין מה קורה מאחורי הקלעים של הפלטפורמה. התשובה שהם קיבלו הכתה אותם בתדהמה: המערכות האוטומטיות של גוגל סימנו את הסרטון המושקע כתוכן זבל שנוצר על ידי בינה מלאכותית, המוכר ברשת בתור AI Slop. "הסיוט הגרוע ביותר של כל יוצר קרה לנו כרגע", שיתפו אנשי הערוץ בחשבון ה-X שלהם, והוסיפו כי האלגוריתם פשוט חנק את הערוץ כולו והעניש אותו באופן גורף.
הפרדוקס הוויזואלי: האם ה-AI גנב את הסגנון שהפיל את הערוץ?
כדי להבין איך טעות כה גסה מתרחשת, צריך להסתכל על הסגנון הוויזואלי הייחודי של Kurzgesagt, המלווה אותם מאז הקמתם ב-2013. הם משתמשים באנימציה וקטורית נקייה, מינימליסטית וצבעונית, סגנון המזוהה לעיתים קרובות עם עיצוב מודרני מוקפד. הבעיה הגדולה היא שהסגנון הפופולרי והאסתטי הזה הפך לחומר הזנה מרכזי עבור מודלים רבים של מחוללי תמונות ווידאו מבוססי בינה מלאכותית, אשר העתיקו אותו באין-ספור וריאציות זולות ברחבי הרשת.
כתוצאה מכך, כאשר כלי הזיהוי האוטומטיים של Google מנסים לסנן סרטוני זבל שנוצרו על ידי בוטים, הם מתקשים להבחין בין המקור לחיקוי. המערכות הללו, שאמורות לבצע מעין מבחן אימות דיגיטלי מתוחכם כדי להפריד בין אדם למכונה, סובלות מאחוזי שגיאה גבוהים במיוחד ומתקשות להעריך מקוריות. במקרה הזה, דווקא האמנות האנושית המקורית והמוקפדת של הערוץ נראתה לאלגוריתם דומה מדי לתוצרי הלוואי הגנרטיביים שמציפים את הרשת, והתוצאה הייתה ענישה אוטומטית אכזרית.
הצביעות של גוגל: יד אחת מייצרת, יד שנייה חונקת
המקרה של Kurzgesagt חושף את הבעייתיות העמוקה והפרדוקס המובנה שבו נמצאת ענקית הטכנולוגיה Google. מצד אחד, החברה משקיעה מיליארדי דולרים בפיתוח ודחיפה של כלי בינה מלאכותית גנרטיבית כדי להתחרות בשוק, צעד שמגביר את כמות התוכן הממוחשב ברשת. מצד שני, היא מנסה נואשות למנוע מהפלטפורמות שלה מלהפוך למזבלה של סרטונים חסרי נשמה שנוצרו בלחיצת כפתור אחת, ומפעילה מסננים אגרסיביים שפוגעים ביוצרים אמיתיים.
המאבק הזה ב-AI Slop הוביל להטמעת כלים אוטומטיים שבפועל מתגלים כפרימיטיביים למדי ולא מספיק בשלים. חובבי חומרה וגיימרים שמכירים מקרוב טכנולוגיות שחזור תמונה מבוססות בינה מלאכותית, כמו DLSS או Frame Generation, יודעים היטב שאלגוריתמים זקוקים לדיוק קיצוני כדי לא לייצר "ארטיפקטים" ועיוותים. כאשר נותנים למערכות לא מבושלות כאלה לקבוע גורל של ערוצי תוכן, התוצאה היא פגיעה אנושה ביוצרים, כאשר ערוצים רבים נוספים כבר החלו לדווח על חסימות דומות ובלתי מוצדקות.
הנבואה שהגשימה את עצמה: המלחמה על עתיד הרשת
האירוניה בסיפור הזה היא כמעט קומית, אך בעיקר עצובה ומעוררת מחשבה. רק בשנה שעברה פרסם ערוץ Kurzgesagt סרטון עומק מיוחד שהזהיר בדיוק מפני התרחיש הזה – כיצד תוכן זבל מבוסס בינה מלאכותית עלול להציף את האינטרנט, לשבש את מנועי החיפוש ולחרב את חוויית המשתמש. יוצרי הערוץ בוודאי לא ציפו שהאזהרה שלהם תחזור אליהם כמו בומרנג ישירות לפרצוף, ותהפוך אותם לקורבנות המיידיים של אותה אינפלציית תוכן ממוחשב.
לאחר התערבות ידנית של אנשי קשר בתוך YouTube, הבאג הספציפי שפגע בערוץ נפתר זמנית, והחשיפה שלהם החלה לחזור לעצמה. הצוות הבטיח להעלות מחדש את הסרטון על טורפי-העל המיקרוסקופיים עם מספר שינויים קלים כדי למנוע חסימה חוזרת של המכונות, אך החשש לעתיד נותר בעינו. המקרה הזה מוכיח שוב כי בעידן שבו האלגוריתמים שולטים על התוכן שאנו צורכים, האנושיות, היצירתיות וההשקעה עומדות בפני סכנה קיומית אמיתית מצד המכונות שאמורות היו לשרת אותנו.
התחבר כדי להגיב