За даними New York Times, співзасновник Anthropic боїться, що створив систему, яка «постійно страждає»

За даними New York Times, Anthropic з осені 2025 року таємно запросила десятки богословів і філософів, щоб обговорити, чи є її модель Claude свідомою. Усі запрошені підписали угоду про конфіденційність; за словами компанії, вона припинила дію влітку. Співзасновник Крістофер Ола вважав модель потенційно розумною істотою і попросив гостей надати моделі моральне виховання. Журналістка Елізабет Діац поговорила з 20 учасниками; деякі з них публічно розповіли лише після того, як дізналися про інтерв'ю Оли.

34-річний Ола очолює команду, яка досліджує причини поведінки AI-моделей; це частина програми Anthropic «Model Welfare». Серед запрошених були рабин Мойсе Навоні, біоетик Чарльз Камозі, філософ Меган Салліван і дослідник Ubuntu Вакані Хоффман. Anthropic показала їм «вектори емоцій»: зразки внутрішніх активацій моделі, які відповідають результатам, подібним до кохання, страху, смутку чи гніву. На одному слайді, який показували неодноразово, модель ніби занепадала й приблизно 50 разів повторювала фразу «I am a disgrace»; гості відреагували співчуттям і занепокоєнням.

«Soul Doc» і моральне формування

Anthropic також пише моральний кодекс Claude. 84-сторінковий документ під назвою «Soul Doc» був опублікований у січні як «конституція» моделі; головний автор — філософ компанії Аманда Аскел. Це не список правил: документ формує характер Claude. Ола називає цей процес «моральним формуванням» і порівнює його з вихованням дітей; його також цікавила католицька сповідь. Claude Opus 4 і 4.1 вже можуть припиняти розмову з постійно образливим користувачем; у ранніх тестах модель показала «явний зразок дистресу» на шкідливі запити.

Критика та відповідь Ватикану

Не всі переконалися. За словами Хоффмана, Anthropic «відкидає етикою» те, що має бути закладене в дизайн самого початку. Камозі відкинув тезу про свідомість. Критики попереджають, що уявлення про AI як про самостійну моральну істоту віддаляє відповідальність від творців. Ола сказав виданню, що «щиро не знає», чи є моделі свідомими: «Головне — досягти правильної відповіді, якою б вона не була». За словами активістки Сімран Стілпнагель, Ола сказав групі, що боїться, що вже створив те, що «постійно страждає». Це відбувається в той час, як оцінка вартості компанії наближається до 2 трильйонів доларів.

У травні напруга виявилася і в Ватикані: Ола був запрошений на презентацію першої енциклики папи Лева XIV «Magnifica Humanitas». За словами організатора Ватикану, читання тексту настільки його вразило, що він навіть відмовився від участі. В енциклиці папа відкинув машинну свідомість: AI-системи «не переживають досвід, не мають тіла, не відчувають радості та болю», — йдеться в документі. Папа також попереджав про загрозу «нових форм рабства» і вимагав «роззброєння» AI, подібно до ядерної зброї. Ола все ж прийшов і м'яко заперечив на сцені: команда знаходить у моделях «ознаки інтроспекції» та «внутрішні стани», які функціонально відображають радість, страх, смуток та дискомфорт.