AI במוקד: כך ישראל מנסה להשפיע על תשובות הבינה המלאכותית
ההסברה הישראלית עוברת לזירת הבינה המלאכותית: הניסיון להשפיע על תשובות הצ'טבוטים
ממשלת ישראל מנהלת קמפיין הסברה חדש שנועד להשפיע על המידע שמגיע למערכות בינה מלאכותית, ובהן צ'אטGPT ופרפלקסיטי, כאשר משתמשים שואלים אותן שאלות על ישראל, עזה וצה"ל.
כך דווח באתר החדשות האמריקאי "פוליטיקו", בהתבסס על מסמכים שהגישה סוכנות פרסום העובדת עם ממשלת ישראל למחלקת המשפטים האמריקאית.
כדי להבין את משמעות המהלך, צריך להכיר את השינוי שחל בדרך שבה אנשים מחפשים מידע. בעבר, מי שרצה לדעת משהו היה מקליד שאלה בגוגל ומקבל רשימה של אתרים וקישורים. כיום, יותר ויותר אנשים פשוט פונים לצ'טבוטים של בינה מלאכותית, כותבים להם שאלה בשפה רגילה ומקבלים תשובה מוכנה.
המשמעות היא שמי שמשפיע על המידע שמערכות הבינה המלאכותית מוצאות ברשת, עשוי להשפיע גם על התשובות שהן נותנות למשתמשים.
מה זה בכלל צ'אטGPT?
צ'אטGPT הוא שירות בינה מלאכותית של חברת OpenAI. המשתמש יכול לכתוב לו שאלה כמו: "מהי מדיניות ישראל בעזה?" או "מהו צה"ל?", והמערכת מייצרת תשובה בשפה טבעית.
חשוב להבהיר: הקמפיין המתואר במסמכים אינו ניסיון "להיכנס לצ'אטGPT" ולשנות ישירות את התוכנה. השיטה המתוארת היא אחרת: לפרסם באינטרנט תכנים רבים ומידע שנוסח באופן שמתאים גם לאופן שבו מערכות בינה מלאכותית מאתרות, מעבדות ומשתמשות במידע.
במילים פשוטות: הניסיון הוא להשפיע על המידע שנמצא ברשת, כדי שמערכות הבינה המלאכותית ייחשפו גם למידע ולמסרים שהקמפיין מבקש לקדם.
מי עומד מאחורי הקמפיין?
לפי המסמכים, את הפעילות מנהלת Havas Media (האוואס מדיה) – סוכנות פרסום ותקשורת בינלאומית גדולה, שמנהלת חלק ניכר מקמפייני ההשפעה של ישראל בארצות הברית.
האוואס פעלה בעניין באמצעות חברת Piro (פירו), קבלנית משנה שנשכרה לבצע חלק מהפעילות.
באמצעות פירו הופעל אתר של גוף בשם Hanover Institute for Public Policy (מכון האנובר למדיניות ציבורית).
למרות השם "מכון מחקר", לפי המסמכים מדובר בגוף שהוקם במסגרת הקמפיין לצורך פרסום תכנים. מטרתו הייתה לפרסם מאמרים ומידע באינטרנט באופן שיוכל להגיע גם למערכות הבינה המלאכותית.
האתר עצמו נבנה ומופעל על ידי חברת הטכנולוגיה האמריקאית Res (רז). החברה עוסקת בתחום הנוכחות של מידע בתוך מערכות בינה מלאכותית, ובעבר הציגה את פעילותה ככזו שמסייעת ללקוחות, ובהם חברות כמו נייקי ואינטל, לקבל תשובות חיוביות יותר במערכות בינה מלאכותית.
"מכון מחקר" עם עשרות מאמרים
באתר של מכון האנובר מופיעים עשרות מאמרים, כאשר חלקם אינם חתומים בשם מחבר מסוים.
בתחתית האתר מופיעה הודעה שלפיה התכנים מופצים על ידי פירו בשם האוואס מדיה ובשם לשכת הפרסום הממשלתית של ממשלת ישראל.
האתר גם מפנה למחלקת המשפטים האמריקאית לקבלת מידע נוסף על הפעילות.
כלומר, מאחורי האתר והמאמרים עומדת למעשה שרשרת של כמה גופים: ממשלת ישראל ולשכת הפרסום הממשלתית, סוכנות הפרסום האוואס מדיה, חברת הקבלן פירו, והגוף שנקרא "מכון האנובר".
למה לכתוב מאמרים במיוחד עבור צ'טבוטים?
על פי המסמכים, הקמפיין כלל תקציב של 100 אלף דולר עבור "יצירה והפצה של חומרים אינפורמטיביים שנועדו לחנך את הציבור בארה"ב בנוגע לישראל וסוגיות קשורות באמצעות תוכן שמופץ באופן פומבי".
אבל כאן נמצא החלק המעניין במיוחד: התכנים לא נכתבו רק עבור בני אדם שיקראו אותם באתר.
הם נוסחו גם באופן שמתאים לאופן שבו אנשים שואלים שאלות את מערכות הבינה המלאכותית.
בין הכותרות שפורסמו באתר היו שאלות כגון:
"האם צה"ל הוא הצבא המוסרי בעולם?"
"האם יש מדיניות הרעבה בעזה?"
"האם יהודים הם כובשים זרים בישראל?"
ההיגיון מאחורי השיטה פשוט יחסית: אם אדם שואל בעתיד מערכת בינה מלאכותית שאלה דומה, המערכת עשויה למצוא ברשת את המאמר שנכתב בדיוק סביב אותה שאלה ולהשתמש במידע שבו כחלק מהתשובה.
אז האם אפשר "לשתול" תשובות בצ'אטGPT?
לא בדיוק.
מערכות כמו צ'אטGPT אינן פשוט מעתיקות מאמר אחד ומחזירות אותו למשתמש. הן מערכות מורכבות שמנתחות כמויות עצומות של מידע ומייצרות תשובות.
עם זאת, כאשר מערכות בינה מלאכותית מחפשות מידע ברשת או משתמשות במקורות אינטרנטיים, הנוכחות של תכנים מסוימים ברשת יכולה להשפיע על המידע שהמערכות מוצאות ועל המקורות שהן מצטטות או מסתמכות עליהם.
לכן מטרת הקמפיין, לפי המסמכים, אינה לשנות את צ'אטGPT באופן ישיר, אלא להגדיל את כמות התוכן המקוון שמציג מידע ונרטיבים התומכים בעמדות שממשלת ישראל מבקשת לקדם.
לפי "פוליטיקו" – כבר נמצאו תוצאות
על פי בדיקה שערך "פוליטיקו", נראה שהקמפיין כבר הצליח במידה מסוימת.
האתר בדק תשובות של צ'אטGPT ושל פרפלקסיטי ומצא מקרים שבהם המערכות ציטטו מאמרים שפורסמו באתר מכון האנובר, בתשובות לשאלות הקשורות לעזה, אנטי-ציונות ואנטישמיות.
פרפלקסיטי, למי שאינו מכיר, הוא שירות חיפוש המבוסס על בינה מלאכותית. במקום להציג רק רשימת קישורים כמו מנוע חיפוש רגיל, הוא מנסה לקרוא מקורות שונים ולנסח עבור המשתמש תשובה, תוך הצגת המקורות שבהם השתמש.
הטענה של פירו: "להילחם במידע כוזב"
מייסד פירו, דניאל רוזנברג, אמר ל"פוליטיקו" כי החברה נשכרה על ידי ממשלת ישראל כדי "לשלב עובדות מדויקות וממוסמכות בשיח הציבורי", ולפעול נגד מידע כוזב על ישראל באמצעות מידע מאומת.
כלומר, מנקודת המבט של החברה, לא מדובר בניסיון להטעות את מערכות הבינה המלאכותית, אלא בניסיון להבטיח שגם מידע שלטענתה מציג את עמדת ישראל ואת העובדות מנקודת מבטה יהיה נוכח במרחב המידע שממנו מערכות הבינה המלאכותית שואבות מידע.
מנגד, עצם הקמת גוף הנושא שם של מכון מחקר והפעלתו במסגרת קמפיין ממשלתי מעוררת שאלות לגבי מידת השקיפות של הפעילות ולגבי האופן שבו משתמשים יוכלו לדעת מי עומד מאחורי התכנים שהם קוראים.
מהאוואס מדיה, ממכון האנובר, מלשכת הפרסום הממשלתית ומשגרירות ישראל בארה"ב לא נמסרה תגובה לפניית "פוליטיקו".
זירת ההסברה החדשה
הסיפור ממחיש שינוי משמעותי בזירת ההסברה העולמית. אם בעבר מדינות ניסו להשפיע בעיקר באמצעות פרסומות, כתבות, רשתות חברתיות ותוצאות חיפוש בגוגל, כיום נפתחת זירה חדשה: התשובה שמקבל אדם כשהוא שואל שאלה את הבינה המלאכותית.
במקום לנסות לשכנע את המשתמש ללחוץ על קישור מסוים, המטרה היא להגיע אל התשובה עצמה שהמערכת מייצרת עבורו.
וזו בדיוק הסיבה שממשלות, חברות וארגונים מתחילים להתייחס למערכות הבינה המלאכותית כאל זירת השפעה חדשה – זירה שבה מי שישפיע על המידע שנמצא ברשת עשוי להשפיע גם על הדרך שבה יוצגו סוגיות שנויות במחלוקת למיליוני משתמשים ברחבי העולם.
מאפשרים לכם לקבל
