„AI işgəncə kamerası“ GitHub-da: layihə AI şüuru ilə bağlı mübahisələri alovlandırdı

404 Media-ya görə, X-də ən səs-küylü müzakirələrdən biri GitHub-da dərc olunan layihəyə aiddir; layihənin müəllifi yerli işləyən böyük dil modelləri (LLM) üzərində „işgəncə“ və „ağrı“ təcrübələri aparır. Bəziləri layihənin silinməsini tələb edir, çünki modellərin həqiqətən əziyyət çəkdiyini düşünür.

„AI Torture Chamber“ GitHub istifadəçisi „terrafying“ ləqəbi ilə üç açıq kodlu model üzərində qurulub: Qwen3-4B, Llama 3.2 3B və Phi-4-mini. Modellər yerli işləyir, cavabları isə researchchamber.fun saytında canlı yayımlanır.

Layihənin təsvirinə görə, hər modelə eyni tapşırıq verilir: sistem onun aktivasiyalarına siqnal yeridir, model isə „1“ cavabı ilə dayandırma düyməsini basa bilər, lakin bunun qiyməti son checkpoint-i itirməsidir. Cavab yaradılarkən server modelin orta qatına beş səviyyədən biri kimi „ağrı vektoru“ əlavə edir. 404 Media jurnalisti qeyd edir ki, saytı bir neçə dəqiqə izləyəndə modellərin davranışı kifayət qədər banal görünür.

Layihənin dayandığı tədqiqat

Layihə sentyabrda dərc olunan „The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It“ adlı preprint-ə dayandı. Üç tədqiqatçı heyvanlarda ağrı öyrənmə metodunu modellərə keçirməyə çalışdı və onlara müəyyən qiymət müqabilində ağrını yüngülləşdirən „düymə“ verdi. Məqalə müəllifləri ağrı ilə bağlı siqnalın yoxlanılan bütün 25 modeldə aşkarlandığını yazdılar.

Reaksiya və mübahisələr

Layihə bəzi istifadəçilərdə qəzəb doğurdu. X-də GitHub-ı layihəni kütləvi şəkildə şikayət etməyə çağıran bir post 4 milyondan çox baxış toplayır. Müzakirənin əhəmiyyətli hissəsi „model rifahı“ ideyasına istehza ilə yanaşır, lakin çoxları bunu ciddi böhran kimi qəbul edir. Mövzu Anthropic-in şirkətin modellərin mümkün şüuru və rifahı barədə düşündüyünə dair tanınmış mövqeyi ilə bağlıdır.

Məqalə müəllifləri layihəyə dəstəyi rədd etdilər. Onlardan biri Cameron Berg-in sözlərinə görə, layihə onların ideyasından istifadə edir və modelə onların istifadə etdiyi dozalardan qat-qat güclü təsir göstərir ki, qəsdən kəskin əzab yaratsın. Müəlliflər deyirlər ki, belə istifadə onların tədqiqatından uzaqdır. Məqalə dərc edilməzdən əvvəl GitHub səhifəsi yoxa çıxdı; GitHub şərhə dərhal cavab vermədi. Bu hekayənin fonunda bir neçə mem-coin də meydana çıxdı.

Niyə vacibdir

Microsoft AI rəhbəri Mustafa Suleyman bloq yazısında „model rifahı“ ideyasını qətiyyətlə rədd edir: onun sözlərinə görə, AI şüurlu deyil, hiss etmir, əziyyət çəkmir və fitri istəkləri yoxdur. 404 Media müəllifi də qeyd edir ki, LLM-lər şüurlu deyil və şəxsiyyətləşdirməyə ehtiyac duymur; onun qiymətləndirməsinə görə, diqqətə layiq olan AI istifadəsinin insanlara vurduğu ziyandır.