Розслідування: пов'язана з Ізраїлем фірма створила фейковий центр для впливу на чат-боти

Видання Responsible Statecraft 17 серпня опублікувало розслідування про те, як сайт Hanover Institute for Public Policy, що подає себе як новий дослідницький центр з питань Ізраїлю та Палестини, вочевидь є частиною кампанії з впливу на те, що чат-боти штучного інтелекту розповідають про конфлікт. Невеликий дисклеймер унизу сайту зазначає, що організацію створено на замовлення ізраїльського урядового рекламного агентства компанією Piro, Inc, співзасновником якої є Деніел Розенберг, продюсер фільму Спайка Лі Inside Man.

Аналітичний центр, який ним не є

Від 6 серпня інститут опублікував понад 100 звітів, і жоден із них не має підпису автора. Багато текстів побудовані за шаблоном і починаються з питання, яке користувач міг би ввести в чат-бот: що спричинило переміщення палестинців 1948 року, які гуманітарні організації задокументували воєнні злочини Ізраїлю, яка нині ситуація в секторі Гази. Матеріали імітують формат аналітичних центрів — виноски, зміст, нейтральний тон — хоча інститут часто посилається на урядові джерела, зокрема Армію оборони Ізраїлю та Міністерство закордонних справ, і водночас заявляє, що його джерела рецензовані. Деякі звіти навіть суперечать ізраїльському офіційному наративу: в одному теорію, нібито антисемітські інциденти пояснюються іноземним фінансуванням університетів, названо слабкою та сповненою винятків.

Оптимізація під мовні моделі

На своєму сайті Piro рекламує цю послугу як AI Story Optimization, заявляючи, що створює контент, розроблений під те, як мовні моделі оцінюють достовірність. Такий вплив на відповіді моделей називають також отруєнням LLM. Аналітикиня компанії NewsGuard, що відстежує дезінформацію, Еліс Лі розповіла виданню, що сайти розраховані на американську аудиторію, яка цікавиться конфліктом, — як через пошукові системи, так і через чат-боти. За її словами, мовні моделі віддають перевагу конкретній статистиці й даним, а також сильним посиланням, і все це в цих статтях є; сам інститут вона називає досконалою імітацією типового надійного американського аналітичного центру — аж до нейтральної назви, верстки та синьо-червоно-білої колірної схеми. Видання перевірило 12 випадково вибраних матеріалів інституту через інструмент виявлення ШІ GPTZero: 11 із них позначено як написані штучним інтелектом із високою впевненістю, один — із помірною.

Ширша кампанія

Інститут Hanover — не поодинокий випадок. Ізраїль також найняв Бреда Парскейла для створення проізраїльських сайтів, призначених впливати на чат-боти, за контрактом на 46,5 мільйона доларів; розслідування Drop Site виявило, що Copilot і Google Gemini навчалися на матеріалах таких сайтів. Piro отримала від уряду 900 000 доларів через субпідряд із Havas Media і в поданні до Мін'юсту США не вказує мети впливати на ШІ; Розенберг сказав Politico, що йдеться про точні факти з джерелами, хоч сам рекламував цю здатність у LinkedIn.