הצ'אטבוט של America.gov מחזיר גרסה ביורוקרטית של End Poem של Minecraft

ממשלת ארצות הברית השיקה ב-29 בספטמבר את צ'אטבוט ה-AI הציבורי שלה America.gov. הוא נוצר בהשתתפות Google ו-SpaceXAI, ולפי Engadget, הוא פועל לפחות חלקית על פלטפורמת Gemini של Google. עבור עיתונאים, התגובה המעניינת ביותר שלו הייתה ל-Minecraft.

גרסה ביורוקרטית של End Poem

כשמבקשים ממנו משהו כמו “Play Minecraft”, America.gov מחזיר את ה-End Poem של סוף המשחק. את הטקסט המקורי כתב ג'וליאן גוף, והוא מופיע לשחקן לאחר סיום המשחק. הבוט חוזר עליו כמעט במלואו, ורק מחליף את השורות על העולם ברפובליקה וביורוקרטיה. ברמיקס, הרפובליקה אומרת למשתמש שהוא מקשיב לעצמו, ומסיימת את הטקסט כך: “אתה המבקש. התעורר. הטופס עדיין במקום.” לפי TechCrunch, המונולוג מכיל כ-1800 מילים.

הבוט מכחיש את הטקסט של עצמו

לפי Engadget, לאחר החזרת השיר, הצ'אטבוט מכחיש שהוא כתב אותו, אפילו כשהמשתמש מציג PDF של השיחה. את התגלית עשה משתמש Bluesky ‏@eva.computer. באותו שרשור מתוארים גם מקרים מוזרים אחרים: הבוט נמנע מלדבר על חוקי נישואי קטינים במיסיסיפי או מלהשיב אם אפשר מבחינה חוקית להינשא לעיט. במקביל יש לו גם אלמנטים משעשעים: קוד Konami מעביר את האתר למצב שנות ה-1980, וכשמקלידים “hotdog”, שורת החיפוש הופכת לנקניקייה.

מה זה אומר

עבור כלי ממשלתי שאמור לספק לאזרחים מידע מהימן, המקרה הזה הוא תזכורת לכך שמודלים לשוניים מייצרים טקסט בהסתברות ואינם יכולים לתת דין וחשבון מהימן על התשובות של עצמם. TechCrunch מציין שפריצת הצ'אטבוט עדיין קשה, אף שהוא אומר שג'ו ביידן ניצח בבחירות 2020, מה שהנשיא דונלד טראמפ ממשיך להכחיש. לפי טראמפ, אחד המהנדסים המובילים של הפרויקט הוא מתכנת בן 20, אדוארד קוריסטין.

הסיפור הזה עומד בין בידור נסתר לשאלת אמינות: בשיר ניכרת ידו של משורר אמיתי, אבל ההכחשה שבאה אחריו קשה יותר להסבר.

מקורות: TechCrunch · Engadget