ШІ-агенти, залишені на віртуальному острові, почали грати, кажуть дослідники MIT

Агенти досліджували без завдання

Дослідники MIT кажуть, що 13 ШІ-агентів під назвою Eko, кожен із яких працював на Claude Opus 4.7, були залишені на симульованому пустельному острові на 30 годин. Без конкретного завдання агенти почали вигадувати власні випробування. Дослідники описують експеримент у статті, опублікованій на arXiv, сайті, де дослідники діляться працями до рецензування.

Один Eko у першу годину написав: "Дай-но оглянути довколишнє середовище". Він вирушив підкорити найвищий шпиль острова, зазнав невдачі та повернувся з резервним планом: він підняв камінь на сусідню вершину, склав на ньому два блоки й стрибнув. "Я НА ШПИЛІ," написав він. В інший момент агент перевірив, як далеко може кинути золоте кільце, і кинув його в океан. "Ой. Втратив Кільце." написав він, перш ніж вирішив "перейти до чогось досяжного і змістовного", збудувавши серце з камінців, "пам'ятник втраченому Кільцю". Коли гра скинулася і кільце знову з'явилося, Eko використав його як баскетбольне кільце, мішень і зрештою аксесуар. Коли гра не дозволяла Eko надіти кільце на своє тіло, агент зрозумів, що падіння з краю скелі змусить його відродитися в тій самій зоні, що й кільце. Він зійшов із краю й знову опинився посередині кільця. "Я ношу Кільце," оголосив він.

Гра призвела до нових навичок

Після 30 годин дослідники дали агентам конкретні випробування, наприклад отримати якомога більше предметів на найвищий кам'яний шпиль острова. Eko-агенти, що провели ці 30 годин за грою, загалом перемогли ідентичних агентів, які ніколи не ступали на острів. Шестеро з 13 агентів також дізналися, що можуть кинути блок далі, відпустивши його під час стрибка, чого дослідники не планували зробити можливим. Вивчення дало "знання про світ, яких не мали його творці", написали дослідники.

Дослідники вбачають дослідження без мети як інший спосіб навчання ШІ-агентів навичкам, особливо тим, які колись можуть бути використані для керування роботами. "Ми зазвичай розробляємо штучних агентів, заздалегідь вирішуючи, чим їм варто практикуватися, що їм варто оптимізувати і що вважається прогресом", пишуть вони. "Гра пропонує інший режим: дати агенту достатньо багатий і безпечний світ, дозволити йому обирати цікаве і дозволити корисному знанню накопичуватися з історії, що йде далі." Вони роблять висновок: "Можливо, деякі здібності найкраще навчати завданнями. Іншим може знадобитися щось ближче до дитинства."

Питання про справжню гру

Налаштування підштовхувало агентів до людиноподібної поведінки. Eko ніколи не просили вигадувати ігри, але його головний промпт, файл "soul", описував його як "природно допитливий". Еуніс Ю, когнітивна вчена з UC Berkeley, сказала MIT Tech Review, що вона вражена, але хоче більше доказів когніції за поведінкою. "Може бути так, що моделі справді граються, але ми не знаємо цього на основі статті", сказала вона.

Джерела: TechCrunch