Hesabat: İsraillə bağlı şirkət çatbotlara təsir üçün saxta analitik mərkəz yaradıb

Responsible Statecraft nəşri avqustun 17-də araşdırma dərc edib: özünü İsrail və Fələstin mövzusunda yeni tədqiqat mərkəzi kimi təqdim edən Hanover Institute for Public Policy saytı, görünür, süni intellekt çatbotlarının münaqişə barədə dediklərinə təsir göstərmək cəhdinin bir hissəsidir. Saytın aşağısındakı kiçik qeyddə bildirilir ki, təşkilat İsrail Hökumətinin Reklam Agentliyinin sifarişi ilə Piro, Inc şirkəti tərəfindən yaradılıb; şirkətin həmtəsisçisi Spike Lee-nin Inside Man filminin prodüseri Daniel Rozenberqdir.

Əslində olmayan analitik mərkəz

İnstitut avqustun 6-dan bəri 100-dən çox hesabat dərc edib və onların heç birində müəllif adı yoxdur. Mətnlərin çoxu şablon xarakterlidir və istifadəçinin çatbota yaza biləcəyi sualla başlayır: 1948-ci ildə fələstinlilərin köçürülməsinə nə səbəb oldu, hansı humanitar təşkilatlar İsrailin müharibə cinayətlərini sənədləşdirib, Qəzza zolağında hazırda vəziyyət necədir. Materiallar analitik mərkəz formatını təqlid edir — istinadlar, mündəricat, neytral ton — lakin institut tez-tez İsrail Müdafiə Qüvvələri və Xarici İşlər Nazirliyi kimi hökumət mənbələrinə istinad edir, eyni zamanda sitat gətirdiyi tədqiqatların elmi rəydən keçdiyini iddia edir. Bəzi hesabatlar İsrailin rəsmi rəvayətinə ziddir: birində universitetlərin xarici maliyyələşdirilməsini antisemit hadisələrin izahı kimi göstərən nəzəriyyə zəif və istisnalarla dolu adlandırılır.

Dil modelləri üçün optimizasiya

Piro öz saytında bu xidməti AI Story Optimization adlandırır və dil modellərinin etibarlılığı necə qiymətləndirməsinə uyğun məzmun hazırladığını bildirir. Model cavablarına bu cür təsir göstərmə praktikası LLM zəhərlənməsi kimi də tanınır. Dezinformasiyanı izləyən NewsGuard şirkətinin analitiki Elis Li Responsible Statecraft-a deyib ki, saytlar münaqişə ilə maraqlanan ABŞ auditoriyasına həm axtarış sistemləri, həm də çatbotlar vasitəsilə çatmaq üçün hazırlanıb. Onun sözlərinə görə, dil modelləri konkret statistika və məlumatları, həmçinin güclü istinadları üstün tutur və bu məqalələrdə bunların hamısı var; institutun özü isə ümumi adından tutmuş səhifə düzümünə və qırmızı-ağ-mavi rəng sxeminə qədər tipik etibarlı Amerika analitik mərkəzinin mükəmməl təqlididir. Nəşr təsadüfi seçilmiş 12 Hanover məqaləsini GPTZero adlı süni intellekt aşkarlama aləti ilə yoxlayıb: on biri yüksək, biri orta əminliklə süni intellekt tərəfindən yazılmış kimi işarələnib.

Daha geniş kampaniya

Bu tək hal deyil. İsrail 46,5 milyon dollarlıq müqavilə ilə Bred Parskeyli çatbotlara təsir üçün saytlar yaratmaq üçün işə götürüb; Drop Site araşdırması Copilot və Gemini-nin belə saytların materialları ilə öyrədildiyini göstərib. Piro işinə görə hökumətdən 900 min dollar alıb — Havas Media vasitəsilə; ABŞ sənədində AI məqsədi açıq yazılmasa da, Rozenberq bu bacarığı LinkedIn-də təbliğ edib.