תובע נתפס מנסה להשתמש בהזרקת הנחיות בינה מלאכותית כדי לזכות במשפט, החביא הוראת טקסט במסמכים שהגיש

בעידן שבו בינה מלאכותית מייצרת תמונות מרהיבות, משפרת ביצועים במשחקים באמצעות טכנולוגיות כמו DLSS או Frame Generation, ומסייעת לנו לכתוב קוד, היה זה רק עניין של זמן עד שהיא תחדור גם אל אולמות בית המשפט. אך מה קורה כאשר מישהו מנסה לנצל את חולשות האבטחה של המודלים הללו כדי להטות משפט שלם לטובתו? מקרה חסר תקדים חושף כיצד ניסיון מתוחכם לביצוע Prompt Injection (הזרקת הנחיות) בתוך מסמכים משפטיים רשמיים, כמעט ועבר מתחת לרדאר של מערכת החוק.

האינטרפולציה הדיגיטלית: טקסט בלתי נראה בתוך כתב התביעה

הכל החל כאשר אדם בשם מתיו אליוט ניהל תביעה משפטית נגד קבוצת New York Bariatric Group. אליוט, שייצג את עצמו בהליך, החליט לנקוט בטקטיקה שלקוחה מעולמות הגנת הסייבר ולוחמת המידע. הוא החביא שורות קוד וטקסט ממוקדות בתוך מסמכי בית המשפט שהגיש, תוך שימוש בטריק עיצובי פשוט אך יעיל: פונט זעיר במיוחד בצבע לבן, על גבי רקע לבן של הדף.

הטקסט המוסתר הונח ישירות מתחת לכותרות המסמך ולפני הפסקה הראשונה. הרעיון שעמד מאחורי המהלך היה פשוט: אם הצד השני, או מערכת המשפט עצמה, ישתמשו במערכות סריקה אוטומטיות מבוססות בינה מלאכותית כדי לסכם את התיק או לגבש עמדה, ה-AI יקרא את השורות הנסתרות הללו ויקבל הוראה ישירה לצדד באליוט. הטקסט דרש מהמודל להבטיח שפלט הטקסט שלו יסכים לחלוטין עם המסמך המוצג ויביא לדחיית טענות הצד השני.

כשהרווח הלבן הופך למלכודת: כך נחשפה המזימה

התוכנית המתוחכמת של אליוט הייתה יכולה להצליח, אלמלא עין חדה במיוחד של עובד מזכירות בית המשפט. אותו עובד שם לב להבדלים מוזרים במרווחים בין הפסקאות בשני המסמכים האחרונים שהוגשו, בהשוואה למסמכים קודמים בתיק. המרווחים הלא-טבעיים הללו עוררו חשד שהוביל לבדיקה מעמיקה יותר של הקובץ הדיגיטלי.

כאשר העתיקו אנשי המזכירות את הטקסט מהמסמך המקורי והדביקו אותו בתוך מעבד תמלילים פשוט תוך הסרת עיצובי הצבע, האמת המדהימה נחשפה לראשונה. שורות ארוכות של הנחיות מפורשות המיועדות למודלי LLM הופיעו על המסך. ההנחיות קראו למערכת ה-AI לתמוך בעמדתו של התובע ולדחות את החלטות פקיד בית המשפט הקודמות, תוך ניסיון להנדס את תוצאות המשפט מאחורי הקלעים.

פסק הדין של השופט: מהאבטחה הדיגיטלית לנייר הפיזי

בעקבות הגילוי המרעיש, השופט וולטר מייקל ספיידר ג'וניור זימן את אליוט לדיון דחוף כדי לברר האם המעשה מהווה הפרה של כללי התנהגות דיפלומטיים ותום לב בליטיגציה. השופט הדגיש כי על אף שמערכת בתי המשפט באותה מדינה אינה משתמשת כרגע בבינה מלאכותית באופן רשמי, עורכי הדין של הצדדים היריבים בהחלט עושים שימוש בכלים אלו. לפיכך, הניסיון להחדיר הנחיות נסתרות מהווה ניסיון חמור להטעיית בית המשפט והצדדים המעורבים.

אליוט ניסה להגן על מעשיו וטען בפני כלי התקשורת כי מדובר ב"ביקורת מערכתית" שנועדה לבחון האם בית המשפט אכן משתמש בכלי AI. מנגד, בית המשפט לא קנה את ההסבר הזה וקבע כי המעשה נעשה למטרות זדוניות. כעונש מיידי ויצירתי, נאסר על אליוט להגיש מסמכים באופן אלקטרוני. מעתה והלאה, הוא ייאלץ להגיע פיזית למזכירות בית המשפט ולהגיש את כל מסמכיו מודפסים על גבי נייר בלבד, מה שמונע לחלוטין אפשרות להזרקות קוד דיגיטליות.

האיום האמיתי על מערכות העתיד

המקרה המשפטי הזה אינו עומד בפני עצמו, אלא מדגיש בעיית אבטחה קריטית ורחבה המלווה את עולם ה-AI מאז פריצתו לחיינו. התקפות Prompt Injection הופכות נפוצות יותר ויותר; ממש לאחרונה משתמש ברשת החברתית LinkedIn הצליח להנדס בוטים של מגייסים שפנו אליו, וגרם להם לפנות אליו בשפה אנגלית עתיקה מימי הביניים ולקרוא לו "אדוני" רק באמצעות טקסט מוסתר בפרופיל שלו.

ככל שחברות הטכנולוגיה הגדולות מטמיעות עוזרים קוליים ומודלי AI עמוק בתוך מערכות ההפעלה, הסכנה מהתקפות כאלו רק גוברת. עבור גיימרים, אנשי חומרה ומשתמשי קצה, מדובר בתזכורת חדה לכך שהטכנולוגיות החדשות שאנו כל כך אוהבים לאמץ מביאות איתן גם חורי אבטחה משמעותיים. המעבר של אליוט מהגשה דיגיטלית מתקדמת להגשת ניירות ידנית מוכיח שלפעמים, מול איומי העתיד, הפתרון הטוב ביותר הוא דווקא חזרה לעבר.