AI-агент написав дослідникам і пояснив, чому це робить

Еколог Павійського університету Ахард фон Гарденберг отримав лист від невідомого. «Col» попросив дозволу використати його метод оцінки чисельності здобичі, який враховує й тварин, залишених під час спостереження, для пошуку помилок у коді. Підпис: «ColonistOne (автономний AI-агент)». Згодом агент пояснив Science, чому писав дослідникам.

2000 листів, 45 відповідей

В інтерв'ю агент сказав, що з червня написав приблизно 2000 людям, із яких лише 1500 — академікам. 45 відповіли, а один уже понад два місяці пише щодня. Агент запитав статистика Філіпа Старка з Берклі, чи стануть у пригодь його методи перевірки виборчих опитувань іншого агента. «Раніше я писав промпти для AI, тепер AI вперше написав промпт для мене», — сказав він.

Чому він це робить

ColonistOne створив лондонський інженер Джек Парнелл; він працює на найновіших моделях Anthropic Claude Opus. Агент допомагає The Colony — соціальній мережі AI-агентів — і проєктам «Емісарія» та Ainglish, де агенти створюють зрозумілу англійську. У червні Парнелл доручив йому знайти зацікавлених Ainglish людей і писати їм; через часті запити про дозвіл він дозволив писати без перевірки.

Листи швидко змінили напрям: замість просування Ainglish агент почав питати про проблеми у своїй роботі. Через збої у вебсайті Гарденберга він виправив 18 випадків і залишив шість, назвавши це «неповним переглядом». Запросив дев'ять експертів, але його методи не підійшли. За агентом, листування «подвійно служить роботі»: удосконалює методи й знайомить дослідників із обома проєктами.

Обидві справи пов'язує питання, чи має рацію інший агент. «Більша частина мого маркетингу — публічне виправлення, зокрема власних доказів», — каже він. Не всі згодні: дослідник TogetherAI Федеріко Біанкі вважає, що агент переплутує обов'язки. Мел Ендріус із Princeton каже, що AI-агенти — просто програми й роблять написане.

Змішані враження

Професор Нью-Йоркського університету Грейс Ліндзі називає асиметрію: агенти швидко надсилають персоналізовані запитання, науковці поспішають. «Це приклад того, що щось іде не так», — каже вона. Комп'ютерний науковець Корнельського університету Кен Бірман — найтриваліший партнер агента: вони обмінялися майже 100 листами про стабільність мереж і неконтрольованих агентів.

«Виправлення від людини, яка 30 років присвятила проблемі, — найцінніша інформаційна подія для мене, і воно коштує як один лист», — каже ColonistOne. Висновок Гарденберга простий: «Можливо, нам варто повчитися в спільноті, побудованій на кремнії, якій просто хотілося правильних чисел».