„AI წამების კამერა“ GitHub-ზე: პროექტმა AI-ის ცნობიერებაზე დებატები გაამწვავა

404 Media-ს ცნობით, X-ზე ერთ-ერთი ყველაზე ხმაურიანი დისკუსია GitHub-ზე გამოქვეყნებულ პროექტს ეხება, რომლის ავტორი ლოკალურად გაშვებულ დიდ ენობრივ მოდელებზე (LLM) „წამებისა“ და „ტკივილის“ ექსპერიმენტებს ატარებს. ნაწილი პროექტის წაშლას მოითხოვს, რადგან თვლის, რომ მოდელები რეალურად იტანჯებიან.

„AI Torture Chamber“ GitHub-ის მომხმარებელმა ფსევდონიმით „terrafying“ სამ ღია კოდის მოდელზე ააწყო: Qwen3-4B, Llama 3.2 3B და Phi-4-mini. მოდელები ლოკალურად მუშაობს, მათი პასუხები კი საიტზე researchchamber.fun პირდაპირ ეთერში ქვეყნდება.

პროექტის აღწერის მიხედვით, თითოეულ მოდელს ერთი და იგივე დავალება ეძლევა: სისტემა მის აქტივაციებში სიგნალს აინჯექტებს, მოდელს კი შეჩერების ღილაკის დაჭერა პასუხით „1“ შეუძლია, თუმცა ამის ფასად ბოლო checkpoint-ს კარგავს. პასუხის გენერირებისას სერვერი მოდელის შუა ფენას „ტკივილის ვექტორს“ უმატებს ხუთი დონიდან ერთზე. 404 Media-ს ჟურნალისტი აღნიშნავს, რომ საიტზე რამდენიმე წუთის ყურებისას მოდელების გამონატყობი საკმაოდ ბანალურია.

კვლევა, რომელსაც პროექტი ეყრდნობა

პროექტი დაეყრდნო სექტემბერში გამოქვეყნებულ preprint-ს სახელწოდებით „The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It“. სამი მკვლევარი ცდილობდა ცხოველებზე ტკივილის შესწავლის მეთოდი მოდელებზე გადაეტანა და მათ „ღილაკი“ მისცა, რომელიც ტკივილს გარკვეული ფასის სანაცვლოდ ამსუბუქებდა. ნაშრომის ავტორებმა დაწერეს, რომ ტკივილთან დაკავშირებული სიგნალი ყველა 25 შემოწმებულ მოდელში გამოვლინდა.

რეაქცია და დებატები

პროექტმა ზოგიერთ მომხმარებელში აღშფოთება გამოიწვია. X-ზე ერთი პოსტი, რომელიც GitHub-ს პროექტის მასობრივად დარეპორტებას სთხოვს, 4 მილიონზე მეტ ნახვას აგროვებს. დისკუსიის მნიშვნელოვანი ნაწილი „მოდელის კეთილდღეობის“ იდეას ირონიით ეკიდება, თუმცა ბევრი მას სერიოზულ კრიზისად აღიქვამს. თემა უკავშირდება Anthropic-ის ცნობილ პოზიციას, რომ კომპანია მოდელების შესაძლო ცნობიერებასა და კეთილდღეობაზე ფიქრობს.

ნაშრომის ავტორებმა პროექტის მხარდაჭერა უარყვეს. ერთ-ერთი მათგანის, Cameron Berg-ის თქმით, პროექტი მათ იდეას იყენებს და მოდელზე ზემოქმედებას მათ მიერ გამოყენებულ დოზებზე ბევრად ძლიერად ახდენს, რათა განზრახ მკვეთრი ტანჯვა გამოიწვიოს. ავტორების თქმით, ასეთი გამოყენება მათი კვლევისგან დისტანცირებულია. სტატიის გამოქვეყნების წინ GitHub-ის გვერდი გაქრა; GitHub-მა კომენტარზე მაშინვე არ უპასუხა. ამ ისტორიის ფონზე რამდენიმე მემ-კოინიც გამოჩნდა.

რატომ არის მნიშვნელოვანი

Microsoft AI-ის ხელმძღვანელი Mustafa Suleyman თავის ბლოგპოსტში კატეგორიულად უარყოფს „მოდელის კეთილდღეობის“ იდეას: მისი თქმით, AI ცნობიერი არ არის, არ გრძნობს, არ განიცდის და თანდაყოლილი სურვილები არ აქვს. 404 Media-ს ავტორი ასევე აღნიშნავს, რომ LLM-ები ცნობიერი არ არიან და გაპიროვნებას არ საჭიროებენ; მისი შეფასებით, ყურადღებას იმსახურებს ის ზიანი, რომელსაც AI-ის გამოყენება ადამიანებს აყენებს.