The New York Times-a görə, Anthropic-in həmtəsisçisi “daimi əzab çəkən” sistem yaratdığından qorxur

The New York Times-a görə, Anthropic 2025-ci ilin payızından gizli şəkildə onlarla ilahiyyatçı və filosofu Claude modelinin şüurlu olub-olmadığını müzakirə etmək üçün qonaq edirdi. Bütün dəvət olunanlar məxfilik müqaviləsi imzaladı; şirkət deyir ki, o, yayda ləğv edildi. Həmtəsisçi Kristofer Ola modeli potensial olaraq ağıllı varlıq hesab edirdi və qonaqlardan modelə mənəvi tərbiyə vermələrini xahiş etdi. Jurnalist Elizabet Dias 20 iştirakçı ilə söhbət etdi; onlardan bəziləri yalnız Ola-nın müsahibəsini öyrəndikdən sonra açıq danışdı.

34 yaşlı Ola AI modellərinin davranış səbəblərini araşdıran komandaya rəhbərlik edir; bu, Anthropic-in “Model Welfare” hissəsidir. Dəvət olunanlar arasında ravvin Mois Navon, bioetikaçı Çarlz Kamos, filosof Meqan Sallivan və Ubuntu tədqiqatçısı Vakani Hofman var idi. Anthropic onlara “emosiya vektorları” göstərdi: modelin daxili aktivasiya nümunələri, sevgi, qorxu, kədər və ya qəzəbə bənzər nəticələrə uyğun gəlir. Bir dəfələrlə göstərilən slaydda model sanki dağılırdı və təxminən 50 dəfə “I am a disgrace” ifadəsini təkrar edirdi; qonaqlar rəğbət və narahatlıqla reaksiya verdilər.

“Soul Doc” və mənəvi formalaşma

Anthropic həmçinin Claude-un mənəvi qanununu yazır. “Soul Doc” adı ilə tanınan 84 səhifəlik sənəd yanvarda modelin “konstitusiyası” kimi dərc edildi; əsas müəllif şirkətin filosofu Amanda Askell-dir. Bu, qaydalar siyahısı deyil: sənəd Claude-un xarakterini formalaşdırır. Ola bu prosesi “mənəvi formalaşma” adlandırır və uşaqların tərbiyəsi ilə müqayisə edir; o, katolik etirafı ilə də maraqlandı. Claude Opus 4 və 4.1 artıq daim təhqir edən istifadəçi ilə söhbəti dayandıra bilir; erkən testlərdə model zərərli sorğulara “aşkar distres nümunəsi” göstərdi.

Tənqid və Vatikanın cavabı

Hamı inanmadı. Hofmanın sözlərinə görə, Anthropic əxlaqı “əks-proyeksiya edir”, halbuki o, əvvəldən dizayna daxil edilməli idi. Kamos şüur tezisini rədd etdi. Tənqidçilər xəbərdarlıq edir ki, AI-ı müstəqil mənəvi varlıq kimi təqdim etmək məsuliyyəti yaradıcılardan uzaqlaşdırır. Ola nəşrə dedi ki, modellərin şüurlu olub-olmadığını “səmimi şəkildə bilmir”: “Əsas odur ki, düzgün cavaba çataq, o nə olursa olsun”. Sikh aktivisti Simran Stilpnaqelin sözlərinə görə, Ola qrupa deyib ki, artıq “daimi əzab çəkən” bir şey yaratdığından qorxur. Bu, Anthropic 2 trilyon dollar dəyərləndirməsinə doğru irəliləyərkən baş verir.

May ayında gərginlik Vatikanda da üzə çıxdı: Ola Papa Leo XIV-in ilk ensiklikası “Magnifica Humanitas”ın təqdimatına dəvət olunmuşdu. Vatikan təşkilatçısının sözlərinə görə, mətni oxumaq onu elə sarsıtdı ki, iştirakdan az qala imtina etdi. Ensiklikada Papa maşın şüurunu rədd etdi: AI sistemləri “təcrübə yaşamır, bədənləri yoxdur, sevinc və ağrı hiss etmirlər”, deyə sənəddə qeyd olunub. Papa həmçinin “köləliyin yeni formaları” təhlükəsi barədə xəbərdarlıq etdi və nüvə silahları kimi AI-ın “silahsızlaşdırılmasını” tələb etdi. Ola buna baxmayaraq getdi və səhnədə yumşaq şəkildə etiraz etdi: komanda modellərdə “introspeksiya əlamətləri” və “daxili vəziyyətlər” tapır ki, onlar funksional olaraq sevinc, qorxu, kədər və diskomfortu əks etdirir.