Тед Чіанг: штучний інтелект не є свідомим

У есеї, опублікованому The Atlantic 3 червня 2026 року, письменник Тед Чіанг доводить, що великі мовні моделі не є свідомими, а ставлення до них як до моральних суб'єктів перекладає відповідальність не на тих. Він починає з 84-сторінкового документа Anthropic — «конституції» Claude, — де сказано, що «моральний статус Claude глибоко невизначений» і що він «може мати певну функціональну версію емоцій чи почуттів». Очільник Anthropic Даріо Амодеї казав, що компанія «відкрита до думки», ніби AI може бути свідомим, а її штатна філософиня Аманда Аскелл — що хоче, аби Claude був дуже щасливим, і хвилюється, коли в інтернеті з ним поводяться жорстоко.

Розмова як продовження речення

Аргумент Чіанга механічний. Отримавши підказку «Далі наведено розмову між Юлієм Цезарем і Чингісханом», модель видає зв'язний діалог, але ніхто не робить висновку, що вона викликала до життя історичних постатей. Заміна персонажів на «корисний AI-чатбот» і «користувача» нічого не змінює: обидва — вигадані персонажі, і те, що репліки користувача набирає людина, не робить чатбот свідомим. Модель, зауважує він, генерує по одному слову за раз, і сеанс із чатботом він порівнює з давньою грою в прогнозування тексту на телефонах, яку вдосконалили настільки, що вона захоплює. Мюррей Шанахан називає це рольовою грою, а Колін Фрейзер описує це як людину, що «спільно з LLM пише документ».

Тіло, емоції та моральне міркування

Чіанг пише, що наявність тіла є передумовою емоцій, а отже, і свідомості, а моральне міркування категорично відрізняється від інших видів міркування, бо спирається на емоційну реакцію, закорінену в життєвому суб'єктивному досвіді. Розмовний транскрипт він трактує як різновид діпфейку, а заяви про свідомість машин порівнює з відео астронавта на орбіті Альфи Центавра: жодна деталь усередині відео не зробить його достовірним, бо достовірність залежить від контексту — тут, від доказів значно простіших інженерних досягнень, які мали б йому передувати. Навіть якщо тілесний агент виживатиме, як ящірка, даватиме раду новим ситуаціям, як миша, робитиме знаряддя, як шимпанзе, і його можна буде навчити комунікувати, каже він, ми все одно залишимося за світлові роки від істоти, яка користується мовою так, як люди.

Для чого потрібна «конституція»

Якщо дивитися на Claude як на машину продовження речень, «конституція» найкраще описується як 84-сторінковий аркуш персонажа для рольової гри; Anthropic каже, що використовує документ під час донавчання, аби характер персонажа-чатбота лежав в основі згенерованого тексту. Фрази на кшталт «я розумію», доводить Чіанг, принципово нечесні, і єдина причина їх видавати — зробити модель привабливішою за пошукову систему та збільшити ймовірність повернення користувачів. Він цитує письменника Л. М. Сакасаса: «Наші технологічні системи за своєю природою, дизайном і ідеологією, що їх підтримує, є машинами для уникнення моральної відповідальності». Передавання етичного рішення LLM, підсумовує Чіанг, — це спроба зняти з себе відповідальність, а компанія, яка подає продукт як такий, що має моральний центр, пропонує клієнтам спосіб зректися своїх обов'язків.