Ted Çianq: süni intellekt şüurlu deyil

The Atlantic jurnalında 3 iyun 2026-cı ildə dərc olunan essedə yazıçı Ted Çianq iddia edir ki, böyük dil modelləri şüurlu deyil və onlara mənəvi subyekt kimi yanaşmaq məsuliyyəti yanlış ünvanlara yönəldir. O, Anthropic-in 84 səhifəlik sənədi — Claude-un "konstitusiyası" ilə başlayır: sənəddə deyilir ki, "Claude-un mənəvi statusu dərin şəkildə qeyri-müəyyəndir" və o, "hisslərin hansısa funksional versiyasına malik ola bilər". Anthropic-in baş direktoru Dario Amodei süni intellektin şüurlu ola biləcəyi fikrinə "açıq olduqlarını", şirkətin daxili filosofu Amanda Askell isə Claude-un çox xoşbəxt olmasını istədiyini və internetdə ona kobud davrandıqda narahat olmasından ehtiyat etdiyini deyib.

Söhbət cümlə davamı kimi

Çianqın arqumenti mexanikidir. Modelə "Aşağıda Yuli Sezar ilə Çingiz xan arasında söhbət verilir" tapsırığı verildikdə ardıcıl dialoq yaranır, lakin heç kim modelin tarixi şəxsiyyətləri canlandırdığı qənaətinə gəlmir. Personajları "faydalı AI çatbotu" və "istifadəçi" ilə əvəzləmək heç nəyi dəyişmir: hər ikisi uydurma personajdır və istifadəçi sətirlərini insanın yazması çatbotu şüurlu etmir. Myurrey Şanahan buna rol oyunu deyir; Kolin Freyzer isə bunu insanın "dil modeli ilə birlikdə sənəd yazması" kimi təsvir edir.

Bədən, hisslər və mənəvi düşüncə

Çianqa görə, bədənə sahib olmaq hisslərin, deməli, şüurun ilkin şərtidir; mənəvi düşüncə isə digər düşüncə növlərindən kateqoriyalı şəkildə fərqlənir, çünki bütün ömür boyu öznel təcrübəyə əsaslanan emosional reaksiyaya söykənir. Söhbət transkriptini o, deepfake mühiti hesab edir və maşın şüuru iddialarını Alfa Kentavr orbitindəki astronavtın videosuna bənzədir: videonun içindəki heç bir detal onu inandırıcı edə bilməz, çünki inandırıcılıq kontekstdən — bu halda, ondan əvvəl gəlməli olan çox daha sadə mühəndislik nailiyyətlərinin sübutundan — asılıdır. Onun sözlərinə görə, kərtənkələ kimi sağ qalan, siçan kimi yeni vəziyyətlərin öhdəsindən gələn, şimpanze kimi alət düzəldən və ünsiyyət qurmağı öyrədilə bilən bədənli agent belə bizi insanlar kimi dildən istifadə edən varlıqdan işıq illəri uzaqda saxlayır.

"Konstitusiya" nə üçündür?

Claude-a cümlə davamı maşını kimi baxsaq, Çianqa görə "konstitusiya" ən yaxşı halda rol oyunu üçün 84 səhifəlik personaj vərəqidir; Anthropic sənədi incə sazlamada istifadə etdiyini, beləliklə çatbot personajının xarakterinin yaradılan mətnin əsasında dayandığını bildirir. "Mən başa düşürəm" kimi ifadələrin əsaslı şəkildə qeyri-səmimi olduğunu müdafiə edən Çianq deyir ki, onların yeganə səbəbi modeli axtarış sistemindən daha cəlbedici etmək və istifadəçilərin qayıtma ehtimalını artırmaqdır. O, yazıçı L. M. Sakasasdan sitat gətirir: "Texnoloji sistemlərimiz, dizaynları və onları yaşadan ideologiya etibarilə, mənəvi məsuliyyətdən yayınma maşınlarıdır." Etik qərarı dil modelinə həvalə etmək, yekunlaşdırır Çianq, məsuliyyətdən boyun qaçırmaq cəhdidir; məhsulu mənəvi mərkəzə malik kimi təqdim edən şirkət isə müştərilərinə öz öhdəliklərindən imtina yolu təklif edir.