ტედ ჩიანგი: ხელოვნური ინტელექტი ცნობიერი არ არის

The Atlantic-მა 2026 წლის 3 ივნისს გამოაქვეყნა მწერალ ტედ ჩიანგის ესე, რომელშიც ის ამტკიცებს, რომ დიდი ენობრივი მოდელები ცნობიერები არ არიან და მათ მორალურ აგენტებად მოპყრობა პასუხისმგებლობას არასწორ მისამართზე გადაიტანს. ის იწყებს Anthropic-ის 84-გვერდიანი დოკუმენტით — Claude-ის „კონსტიტუციით“, რომელშიც ნათქვამია, რომ „Claude-ის მორალური სტატუსი ღრმად გაურკვეველია“ და რომ მას „შესაძლოა ემოციების ან გრძნობების რაღაც ფუნქციონალური ვერსია ჰქონდეს“. Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ თქვა, რომ კომპანია ღიაა იმ აზრისთვის, რომ AI შესაძლოა ცნობიერი იყოს, ხოლო კომპანიის შიდა ფილოსოფოსმა ამანდა ასკელმა — რომ სურს Claude ბედნიერი იყოს და აწუხებს მისი შფოთვა, როცა ინტერნეტში მას ცუდად ექცევიან.

საუბარი როგორც წინადადების გაგრძელება

ჩიანგის არგუმენტი მექანიკურია. თუ მოდელს მისცემთ ტექსტს „ქვემოთ მოცემულია საუბარი იულიუს კეისარსა და ჩინგიზ-ხანს შორის“, ის თანმიმდევრულ დიალოგს აწარმოებს, მაგრამ არავინ ასკვნის, რომ მოდელმა ეს ისტორიული ფიგურები შექმნა. პერსონაჟების „დამხმარე AI ჩატბოტით“ და „მომხმარებლით“ ჩანაცვლება არაფერს ცვლის: ორივე გამოგონილი პერსონაჟია და ის, რომ მომხმარებლის რეპლიკებს ადამიანი წერს, ჩატბოტს ცნობიერს არ ხდის. მიურეი შენაჰანი ამას როლურ თამაშს უწოდებს, კოლინ ფრეიზერი კი — ადამიანის მიერ „დოკუმენტის ერთობლივ ავტორობას LLM-თან“.

სხეული, ემოციები და მორალური მსჯელობა

ჩიანგის აზრით, სხეულის ქონა ემოციების, შესაბამისად კი ცნობიერების წინაპირობაა, ხოლო მორალური მსჯელობა კატეგორიულად განსხვავდება სხვა სახის მსჯელობისგან, რადგან ის ეყრდნობა ემოციურ რეაქციას, რომელიც მთელი ცხოვრების სუბიექტურ გამოცდილებაზეა დაფუძნებული. მოდელის ტექსტს ის დიპფეიკის საშუალებად განიხილავს და მანქანის ცნობიერების მტკიცებას ალფა კენტავრის ორბიტაზე მყოფი ასტრონავტის ვიდეოს ადარებს: ვიდეოს შიგნით არც ერთი დეტალი ვერ გახდის მას დამაჯერებელს, რადგან დამაჯერებლობა კონტექსტზეა დამოკიდებული — ამ შემთხვევაში იმ გაცილებით მარტივი საინჟინრო მიღწევების მტკიცებულებაზე, რომლებიც მას უნდა წინ უსწრებდეს. მისი თქმით, მაშინაც კი, თუ არსებას სხეული ექნება, ხვლიკივით გადარჩება, თაგვივით უმკლავდება ახალ სიტუაციებს, შიმპანზესავით ამზადებს იარაღებს და შეიძლება სურვილების გამოხატვა ასწავლო, სინათლის წლებით დავრჩებით დაშორებული იმ არსებას, რომელიც ენას ადამიანივით იყენებს.

რისთვისაა „კონსტიტუცია“

თუ Claude-ს წინადადების გაგრძელების მანქანად განვიხილავთ, ჩიანგის აზრით, მისი „კონსტიტუცია“ 84-გვერდიანი პერსონაჟის ფურცელია როლური თამაშისთვის; Anthropic-ის თქმით, დოკუმენტს მოდელის დახვეწისას იყენებს, რათა ჩატბოტის პერსონაჟის ხასიათი გენერირებულ ტექსტს საფუძვლად უდევს. ჩიანგი ამტკიცებს, რომ ფრაზები, მაგალითად „მე მესმის“, პრინციპულად არაკეთილსინდისიერია და მათი ერთადერთი მიზეზი ისაა, რომ მოდელი საძიებო სისტემაზე მიმზიდველი გახდეს და მომხმარებელი უფრო ხშირად დაბრუნდეს. ის ციტირებს მწერალ ლ. მ. საკასასს: „ჩვენი ტექნოლოგიური სისტემები, თავიანთი დიზაინისა და მათი მკვებავი იდეოლოგიის ბუნებით, მორალური პასუხისმგებლობის არიდების მანქანებია“. ეთიკური გადაწყვეტილების მოდელზე გადაბარება, ასკვნის ჩიანგი, ანგარიშვალდებულების მოშორების მცდელობაა, ხოლო კომპანია, რომელიც პროდუქტს მორალური ბირთვით წარმოაჩენს, მომხმარებელს პასუხისმგებლობის მიტოვების გზას სთავაზობს.