דיווח: חברה הקשורה לישראל הקימה מכון מחקר מזויף כדי להשפיע על צ׳אטבוטים

תחקיר שפרסם האתר Responsible Statecraft ב-17 באוגוסט מתאר כיצד האתר Hanover Institute for Public Policy, שמציג את עצמו כמרכז מחקר חדש לנושאי ישראל ופלסטין, נראה כחלק ממאמץ לעצב את מה שצ׳אטבוטים של בינה מלאכותית מספרים על הסכסוך. הערה קטנה בתחתית האתר מציינת שהארגון נוצר עבור הרשות הישראלית לפרסום ממשלתי בידי חברת Piro, Inc, ששותף מייסד שלה הוא דניאל רוזנברג, מפיק סרטו של ספייק לי Inside Man.

מכון מחקר שאינו כזה

מאז שהחל לפרסם ב-6 באוגוסט הוציא המכון יותר מ-100 דוחות, ואף אחד מהם אינו נושא חתימה. רבים מהם בנויים בתבנית קבועה סביב שאלה שמשתמש עשוי להקליד בצ׳אטבוט: מה גרם לעקירת הפלסטינים ב-1948, אילו ארגונים הומניטריים תיעדו פשעי מלחמה ישראליים, מהי המצב הנוכחי ברצועת עזה. הטקסטים מחקים את מוסכמות מכוני המחקר — הערות שוליים, תוכן עניינים, טון ניטרלי — אף שהמכון מצטט לעיתים קרובות מקורות ממשלתיים כמו צה״ל ומשרד החוץ, בשעה שהוא טוען שהמחקרים המצוטטים עברו ביקורת עמיתים. כמה דוחות אף מנוגדים לנרטיב הממשלתי הישראלי: באחד מהם תיאוריית לפיה מימון זר לאוניברסיטאות מסביר תקריות אנטישמיות מכונה חלשה ומלאה יוצאי דופן.

אופטימיזציה למודלי שפה

באתר שלה משווקת Piro את השירות בשם AI Story Optimization, וטוענת שהיא מייצרת תוכן שתוכנן בהתאם לאופן שבו מודלי שפה מעריכים מהימנות. התרגול הזה של עיצוב תשובות המודלים מכונה גם הרעלת מודלי שפה. אליס לי, אנליסטית בחברת NewsGuard העוקבת אחר דיסאינפורמציה, אמרה ל-Responsible Statecraft כי נראה שהאתרים מיועדים לקהל אמריקאי המתעניין בסכסוך, בין דרך מנועי חיפוש ובין דרך צ׳אטבוטים. לדבריה, מודלי שפה מעדיפים נתונים וסטטיסטיקות קונקרטיות לצד ציטוטים ומקורות חזקים, וכל אלה קיימים במאמרים; את המכון עצמו היא מכנה חיקוי מושלם של מכון מחקר אמריקאי מהימן, עד לשם הגנרי, לפריסה ולצבעים האדום-לבן-כחול. העיתון בדק 12 מאמרים שנבחרו באקראי בכלי לזיהוי תוכן בינה מלאכותית בשם GPTZero: אחד עשר מהם סומנו ככתובים בידי בינה מלאכותית בביטחון גבוה, ואחד בביטחון בינוני.

קמפיין רחב יותר

מכון Hanover אינו מקרה בודד. ישראל התקשרה גם עם בראד פרסקייל, לשעבר מנהל קמפיין של טראמפ, כדי לבנות אתרים פרו-ישראליים שנועדו להשפיע על צ׳אטבוטים במסגרת חוזה של 46.5 מיליון דולר; תחקיר של Drop Site מצא שמיקרוסופט קופיילוט וגוגל ג׳מיני אומנו על חומר מאתרים כאלה. Piro קיבלה מהממשלה הישראלית 900 אלף דולר עבור עבודתה, בקבלנות משנה דרך קבוצת יחסי הציבור הצרפתית Havas Media. במסמך שהגישה למשרד המשפטים האמריקאי לא מציינת החברה במפורש שמטרתה להשפיע על בינה מלאכותית; רוזנברג אמר ל-Politico, שדיווח לראשונה על ההגשה, כי העבודה נועדה להביא עובדות מדויקות ומגובות למרחב הציבורי. אלא שבחודש שעבר הוא עצמו פרסם בלינקדאין את היכולת הזו, וכתב שרוב המותגים אינם יודעים כיצד נבנה הפסקה הבטוחה של הצ׳אטבוט, ושה-Piro הקדישה חודשים להנדסה לאחור של המנגנון.