Чатбот America.gov повертає бюрократичну версію End Poem з Minecraft

Уряд США 29 вересня запустив власний публічний AI-чатбот America.gov. Його створили за участю Google та SpaceXAI, і, за даними Engadget, він принаймні частково працює на платформі Google Gemini. Для журналістів найцікавішою виявилася його реакція на Minecraft.

Бюрократична версія End Poem

На запит, схожий на “Play Minecraft”, America.gov повертає фінальний End Poem гри. Оригінальний текст написав Джуліан Гоф, і він з’являється гравцеві після завершення гри. Бот майже повністю його повторює, замінивши лише рядки про світ на республіку та бюрократію. У реміксі республіка каже користувачеві, що той слухає сам себе, і завершує текст так: “Ти є заявником. Прокинься. Форма досі на місці.” За даними TechCrunch, монолог містить близько 1800 слів.

Бот заперечує власний текст

За даними Engadget, після повернення вірша чатбот заперечує, що написав його, навіть коли користувач показує PDF розмови. Відкриття зробив користувач Bluesky @eva.computer. У тому ж треді описано й інші дивні випадки: бот ухиляється від розмови про закони Міссісіпі щодо дитячих шлюбів або від відповіді, чи можна юридично одружитися з орлом. Водночас у нього є розважальні елементи: код Konami перемикає сайт у режим 1980-х, а коли ввести “hotdog”, пошуковий рядок перетворюється на хот-дог.

Що це означає

Для урядового інструменту, який має надавати громадянам надійну інформацію, цей випадок є нагадуванням, що мовні моделі генерують текст імовірнісно і не можуть дати надійний звіт про власні відповіді. TechCrunch зазначає, що зламати чатбот поки що складно, хоча він каже, що на виборах 2020 року переміг Джо Байден, що президент Дональд Трамп досі заперечує. За словами Трампа, одним із провідних інженерів проєкту є 20-річний програміст Едвард Корістін.

Ця історія стоїть між прихованою розвагою та питанням довіри: у вірші відчувається рука справжнього поета, але заперечення, що за ним слідує, пояснити важче.

Джерела: TechCrunch · Engadget