בעולם הגיימינג והחומרה, אנחנו רגילים לראות מספרים מפלצתיים. אנחנו מדברים על כרטיסי מסך שעולים כמו מכונית משומשת, תקציבי פיתוח של משחקי AAA שמגרדים את החצי מיליארד דולר, ושרתי ענק שמריצים את המשחקים האהובים עלינו. אבל מתברר שהבזבוז האמיתי לא קורה על פיתוח של ה-GTA הבא, אלא מאחורי הקלעים של מהפכת הבינה המלאכותית. דוח חדש ומרעיש חושף כי חברה מסתורית אחת הצליחה לשבור את כל השיאים ולשרוף סכום דמיוני של חצי מיליארד דולר בחודש אחד בלבד על שימוש ב-AI, והסיבה לכך היא פשוטה להחריד: הם שכחו להגדיר הגבלת שימוש לעובדים שלהם.
הסכום המטורף הזה, 500 מיליון דולר, בוזבז על פלטפורמת ה-AI הפופולרית Claude AI מבית חברת Anthropic. על פי הדיווחים, החברה חילקה לעובדיה רישיונות שימוש בכלי הבינה המלאכותית המתקדם, אך מנהלי מערכות המידע שלה (ה-IT) שכחו להגדיר את ה-Rate Limits – אותן מגבלות טכניות בסיסיות שמונעות ממשתמשי קצה להריץ שאילתות ללא הגבלה. התוצאה הייתה קטסטרופלית מבחינה תקציבית, כאשר אלפי עובדים הריצו אינספור שאילתות מורכבות, וצברו חשבונית חודשית שאפילו החברות העשירות בעולם יתקשו לעכל כ"טעות סטטיסטית".
החור השחור של ה-API: איך שורפים חצי מיליארד דולר ב-30 יום?
כדי להבין את גודל האסון התקציבי, צריך להבין כיצד מודלי שפה גדולים (LLMs) מתמחרים את השירות שלהם. השימוש ב-API של חברות כמו Anthropic או OpenAI מתבסס על יחידות מידע שנקראות "טוקנים" (Tokens), שהם למעשה חלקי מילים. כל שאילתה שאתם שולחים, וכל תשובה שה-AI מחזירה, עולה כסף בהתאם לכמות הטוקנים שנצרכו. כאשר עובדים מתחילים להשתמש בבינה מלאכותית למשימות יומיומיות ללא פיקוח, ומשתמשים במודלים חזקים במיוחד, מחט של ערימת דולרים יכולה להפוך בשניות למדורה ענקית.
המצב מחמיר עוד יותר כאשר נכנסים לתמונה כלים של "סוכני AI" (Agentic AI). אלו הם כלים אוטונומיים שמסוגלים לבצע שרשרת ארוכה של פעולות בעצמם, כמו כתיבת קוד, הרצתו, איתור באגים ותיקונם. על פי דוחות של ענקיות פיננסיות כמו Goldman Sachs, סוכני AI אלו צורכים פי 24 ואף עד פי 1,000 יותר טוקנים מאשר שאילתה פשוטה של משתמש אנושי. קל לדמיין כיצד עובד חסר דאגה שהפעיל סוכן אוטונומי כזה כדי "לסדר לו את המשימות לשבוע הקרוב", גרם לשרתים של Claude AI לעבוד ב-100% מאמץ ולייצר חשבונית שמזכירה תקציב ביטחון של מדינה קטנה.
לשם השוואה, תקציב של 500 מיליון דולר יכול היה לקנות לחברה הזו צי מטורף של עשרות אלפי כרטיסי מסך מדגם NVIDIA RTX 4090, או אפילו להקים דאטה-סנטר פרטי קטן המבוסס על ארכיטקטורת NVIDIA Blackwell החדשה ביותר. במקום להשקיע בחומרה פיזית שתישאר אצלם לשנים ותריץ מודלים מקומיים בקצב פריימים מטורף, הכסף הזה פשוט התאדה לטובת ענן ה-API של חברה חיצונית. זהו המקבילה ההייטקיסטית להשארת ברז מים פתוח בווילה ענקית בזמן שאתם בחופשה של חודש, רק שהמים במקרה הזה עשויים מזהב טהור.
מגפת ה-"Tokenmaxxing" והלידרבורד הלא נכון של אמזון
המקרה הקיצוני הזה הוא לא אירוע מבודד, אלא סימפטום של תופעה מדאיגה הרבה יותר ששוטפת את עולם ההייטק והטכנולוגיה, המכונה בפי רבים Tokenmaxxing. המונח, שמשלב בין "טוקנים" לבין המונח הגיימרי המוכר "Min-Maxing" (אופטימיזציה קיצונית של נתונים במשחקי תפקידים), מתאר מצב שבו עובדים משתמשים בבינה מלאכותית בצורה מוגזמת, מיותרת וללא שום צורך אמיתי, רק כדי להראות שהם "טכנולוגיים" או כדי לעמוד ביעדים פנימיים משונים של הארגון.
הדוגמה הטובה ביותר לאבסורד הזה מגיעה ישירות מענקית הקמעונאות Amazon. על פי דיווחים בתקשורת הכלכלית העולמית, החברה נאלצה לאחרונה לבטל לחלוטין "טבלת מובילים" (Leaderboard) פנימית שעקבה אחרי שימוש ב-AI בקרב העובדים שלה. המטרה המקורית הייתה לעודד חדשנות ואימוץ טכנולוגי, אך העובדים, כמו גיימרים אמיתיים שמצאו באג במערכת, פשוט התחילו לעשות "ספאם" של שאילתות חסרות משמעות ל-AI רק כדי לטפס במעלה הטבלה. עובדים נתפסו כשהם משתמשים במודלים מתקדמים ויקרים להחריד כדי לבדוק מה מזג האוויר בחוץ או לכתוב מיילים פשוטים של שורה אחת.
"המנהלים מתחילים לתהות האם ההוצאות המטורפות על AI אכן מניבות ערך אמיתי לחברה", נכתב בדיווח של סוכנות הידיעות Axios. מתברר כי במקום לייעל את העבודה ולשפר את הפרודוקטיביות, עובדים רבים משתמשים ב-AI בעיקר כדי להתחמק ממשימות משעממות או סתם כדי לשחק עם הטכנולוגיה החדשה. הדבר דומה להפעלת טכנולוגיות כבדות כמו Frame Generation או DLSS 3 ברזולוציית 8K רק כדי להציג את שולחן העבודה של ווינדוס – בזבוז משאבים מוחלט ללא שום תועלת ויזואלית או ביצועית בפועל.
לא רק ענקיות הטכנולוגיה: כשחשבון ה-AI יוצא משליטה
הסיפור על חצי המיליארד דולר אולי נשמע דמיוני, אך מקרים של הפתעות בחשבון החודשי של שירותי הענן הופכים לנפוצים יותר ויותר. רק באפריל האחרון, לקוח של Google Cloud התעורר בבוקר וגילה כי חשבונו חויב ב-18,000 דולר, למרות שהתקציב המוגדר שלו עמד על 7 דולרים בלבד, וזאת בעקבות פרצת אבטחה שנוצלה להרצת שאילתות AI. במקרה אחר, המפתח של פרויקט הקוד הפתוח OpenClaw שרף לא פחות מ-1.3 מיליון דולר בטוקנים של OpenAI בחודש אחד בלבד בגלל לופ קוד לא תקין.
המקרים האלו מראים כי בעוד שחברות החומרה כמו NVIDIA ו-AMD חוגגות על מכירות השבבים, וחברות התוכנה מנסות לדחוף לנו AI לכל חור (ממערכת ההפעלה Windows 11 ועד למשחקים החדשים ביותר), העלות האמיתית של הטכנולוגיה הזו מתחילה להכביד על השוק. החלום על בינה מלאכותית שתחליף עובדים אנושיים ותחסוך כסף מתנפץ אל מול המציאות שבה החזקת המודלים הללו באוויר יקרה לפעמים יותר מהעסקת כוח אדם אנושי ומיומן.
מי היא אותה חברה מסתורית?
השאלה הגדולה שנותרה פתוחה היא: מי היא אותה חברה מסתורית שהצליחה לזרוק 500 מיליון דולר לפח בחודש אחד? ברשתות החברתיות ובפורומים של חובבי חומרה וטכנולוגיה כבר החלו ספקולציות רבות. רבים מהמרים על אחת מענקיות הטכנולוגיה האמריקאיות, בעוד שאחרים טוענים כי ייתכן ומדובר בחברת סטארט-אפ גדולה שפשוט פשטה את הרגל מיד לאחר קבלת החשבונית הזו. "או שהיא חברה גדולה מאוד, או חברה שכעת נמצאת בהליכי פשיטת רגל", התלוצץ אחד המשתמשים ברשת.
בשורה התחתונה, עולם הגיימינג והטכנולוגיה נמצא כרגע בנקודת מפנה מרתקת. אחרי שנים של הייפ מטורף סביב בינה מלאכותית, נראה שהחברות הגדולות מתחילות להבין שאי אפשר פשוט לזרוק כסף על הבעיה מבלי לבצע אופטימיזציה קשוחה. ממש כמו בגיימינג, שבו מפתחים צריכים לעמול קשה כדי שהמשחק שלהם ירוץ חלק ולא רק יזלול משאבי מערכת, כך גם ענקיות הטכנולוגיה יצטרכו ללמוד להגביל את ה-AI שלהן – לפני שהסיבוב הבא יעלה להן ביוקר.
התחבר כדי להגיב