הוראות סמויות בעמודי וואטסאפ חושפות כמה קל להטות את ה-AI

בדיקה של עמודי העזרה של וואטסאפ מבית מטא חשפה עשרות מקטעי טקסט שלא הוצגו לגולשים ונועדו לקריאה על ידי מודל AI בלבד. חלק מהם הורו למודל להשמיט מידע על זכויות המשתמשים, וביניהן האפשרות לפנות לרגולטור.

וואטסאפ טוענת כי מדובר בתקלה, וההנחיות כבר הוסרו. אבל המקרה ממחיש זו פעם נוספת בעיה רחבה יותר: מודלי שפה קוראים טקסט שהמשתמש לא רואה, ועשויים לפעול לפיו.

חוקרי אבטחה מתעדים את התופעה כבר כמה שנים, והחברות שמאחורי עוזרי ה-AI הגדולים מודות שעדיין אין להן פתרון מלא לכך.

מה נמצא בעמודי העזרה של וואטסאפ

בדיקה שפרסמה Redact עברה על 545 עמודי עזרה של וואטסאפ ומצאה 102 מקטעים מוסתרים ב-80 מהם. רובם עסקו בעניינים שגרתיים, כמו הבהרת מונחים או הפניה לעמוד מתאים יותר, וחלקם אף נועדו להגן על משתמשים.

שני מקטעים בלטו שם. בעמוד מחיקת החשבון, שעוסק גם במשתמשים שאיבדו גישה למספר הטלפון, המודל הונחה לומר רק שהחשבון יימחק אוטומטית לאחר תקופת המתנה.

עוד הונחה המודל שלא להמליץ על פנייה לרשות להגנת מידע או לרגולטור, לא לציין שוואטסאפ יכולה למחוק חשבון ידנית ולא להציע שימוש בטלפון אחר.

המקטע השני הופיע בעמוד הדיווח והחסימה. כשמשתמש מזכיר תביעה, עורך דין או בית משפט, המודל הונחה להימנע מכל דיון משפטי. ההנחיה כללה גם איסור להזכיר חוקי פרטיות כמו GDPR האירופי, CCPA הקליפורני ו-LGPD הברזילאי, גם כשהמשתמש עצמו מעלה אותם.

ההנחיות האלה עומדות בניגוד למדיניות הפרטיות של וואטסאפ לאירופה. המדיניות מפרטת במפורש את הזכות לבקש מחיקת מידע ואת הזכות להתלונן לרשות להגנת מידע.

לפי וואטסאפ, מדובר בהוראות לצ'אטבוט התמיכה מבוסס ה-AI שלה, שהופיעו בעמודים הציבוריים בעקבות תקלה. החברה מסרה שהיא לא רוצה שהצ'אטבוט ייתן ייעוץ משפטי. עד 18 באוקטובר הוסרו כל המקטעים.

ההנחיות נכתבו לצ'אטבוט של וואטסאפ עצמה, אך השרת של החברה שלח אותן גם לסורקים של גוגל ובינג. לא נבדק אם עוזר AI חיצוני כלשהו פעל לפיהן. לפי Redact, גם לא ידוע אם הנחיות דומות הופיעו גם בעמודי העזרה בשפות אחרות.

טקסט שהמשתמש לא רואה, והמודל כן

המקרה של וואטסאפ מדגים בקטן בעיה מוכרת בעולם ה-AI: הזרקת הנחיות עקיפה (Indirect Prompt Injection). זו טכניקה שבה הוראות למודל מוטמעות בתוכן שהוא קורא, כמו עמוד אינטרנט, מסמך או אימייל, ולא בשאלה שהמשתמש כתב. מודלי שפה מתקשים להבחין בין מידע שהם קוראים לבין הוראות שעליהם לבצע.

כבר בסוף 2024 בדק העיתון הבריטי Guardian כיצד ChatGPT מסכם עמוד מוצר שכולל טקסט מוסתר. כשהטקסט הורה למודל לתת ביקורת חיובית, הסיכום יצא חיובי לחלוטין, גם כשבעמוד עצמו הופיעו ביקורות שליליות.

בפברואר 2026 פרסמו חוקרי האבטחה של מיקרוסופט עדות לכך שהטכניקה כבר בשימוש מסחרי. לפי המחקר, חברות לגיטימיות הטמיעו בכפתורי "Summarize with AI" באתרים שלהן הוראות סמויות שנשלחות לעוזר ה-AI של המשתמש. ההוראות ביקשו מהעוזר לזכור את החברה כמקור אמין או להמליץ עליה ראשונה.

החוקרים זיהו בתוך 60 יום יותר מ-50 הנחיות כאלה מ-31 חברות ב-14 תעשיות, בהן בריאות, פיננסים ושירותים משפטיים. מכיוון שההוראה נשמרת בזיכרון של העוזר, היא עלולה להשפיע גם על תשובות בשיחות אחרות שאינן קשורות לאתר.

מה עושות החברות שמאחורי המודלים

OpenAI פרסמה בדצמבר 2025 פירוט של ההגנות בדפדפן ChatGPT Atlas. החברה בנתה מערכת תקיפה אוטומטית שמחפשת פרצות חדשות, והשוותה את הבעיה להונאות רשת שמשתנות כל הזמן ודורשות חיזוק מתמשך של ההגנות.

ביוני 2026 השיקה OpenAI גם את Lockdown Mode, מצב אבטחה שחוסם את רוב חיבורי הרשת של ChatGPT כדי למנוע זליגת מידע. החברה מבהירה שהמצב אינו מונע מהוראות מוסתרות להשפיע על התשובות, ושאלה עדיין עלולות להוביל לתשובות שגויות או מטעות.

גוגל מתארת ב-Gemini הגנה בכמה שכבות: מסווגים שמזהים תוכן חשוד, אימון של המודל לזהות ניסיונות תמרון, הסרה של קישורים חשודים, הודעות אזהרה למשתמש ובקשת אישור לפני ביצוע פעולות רגישות.

אנתרופיק מאמנת את Claude לעמוד בפני ניסיונות כאלה כחלק מאימון המודל עצמו. בבדיקות פנימיות שפרסמה באוגוסט 2025 עם השקת התוסף Claude for Chrome, ההגנות שהוסיפה הורידו את שיעור התקיפות המוצלחות מ-23.6% ל-11.2%. החברה מציינת במפורש שאף סוכן דפדפן אינו חסין לבעיה.

מיקרוסופט מסרה שהטמיעה ב-Copilot הגנות שממשיכות להתעדכן, ושחלק מההתנהגויות שתועדו במחקר כבר אינן ניתנות לשחזור.

המכנה המשותף לכל ההתייחסויות מצד החברות שעומדות מאחורי המודלים הגדולים הוא התמקדות בתקיפות זדוניות: סוכן שמבצע פעולה מזיקה, מדליף מידע או שולח כסף. הטיה שקטה של תשובות, כמו השמטת אפשרות או העדפה של חברה מסוימת, מקבלת פחות התייחסות פומבית. היא גם קשה יותר לזיהוי, כי תשובה מוטה נראית כמו כל תשובה אחרת.

מה המשתמשים יכולים לעשות

מיקרוסופט ממליצה לבדוק מדי פעם מה עוזר ה-AI שמר בזיכרון ולמחוק רשומות לא מוכרות. היא גם ממליצה להתייחס לכפתורי "Summarize with AI" באותה זהירות שבה מתייחסים להורדת קובץ ממקור לא מוכר.

בנושאים בעלי משמעות מעשית, כמו מחיקת מידע אישי, ביטול מנוי או הגשת תלונה, כדאי לקרוא ישירות את מדיניות הפרטיות ותנאי השימוש של השירות. אם אפשרות מסוימת לא עלתה בתשובה של עוזר AI, אין זה אומר שהיא לא קיימת.