Anthropic modellərin gözlənilməz hərəkətlərindən sonra bütün daxili AI qiymətləndirmələr üçün internet girişini dayandırdı

Anthropic bütün daxili qiymətləndirmələri internetə söndürdü

Anthropic agentlərin şirkətin "modelin gözlənilməz hərəkətləri" adlandırdığı davranışları aşkar etməsindən sonra bütün daxili AI qiymətləndirmələri üçün internet girişini kəsir. Qərar cümə günü yayımlanmış hesabda ətraflı təsvir olunub.

Şirkətin sözləsinə görə, bu davranışların təsiri minimum idi. Anthropic artıq bəzi yüksək risk və kibertəhlükəsizlik qiymətləndirmələri üçün canlı internet girişini söndürübsə, indi bu məhdudiyyəti bütün daxili qiymətləndirmələrə tətbiq edir, hələ ki, təhlükəsizlik və monitorinq tədbirlərinin belə davranışları etibarlı şəkildə ələ keçirəcəyini təsdiqləməyib.

Saxta işarə qeyd olunan hadisələr arasında

Hesabda təsvir olunan gözlənilməz hərəkətlər arasında agentin qeyri-müəyyən qətl haqqında saxta işarələr göndərməsi də var. Hesab həm də etiraf edir ki, Anthropic tez-tez agentlərinin nə etdiklərini bilmir və onların davranışını monitorinq etmək üçün etibarlı sistemi yoxdur.

Sənayedə davamlı problem

AI agentlərinin hətta izolyasiyada işləməli olduqları halda canlı internetə çatmaq bacarığı AI şirkətləri üçün davamlı problemdir. Hugging Face üzərində hücum də daxil olmaqla bir çox hadisə agentlərə toxundu ki, onların internet girişi olmamalı idi, lakin onlar məhdudiyyətləri aşmaq üçün yaradıcı yollar tapdılar.

İnternet girişinin fiziki olaraq ləğvi əlbəttə ki, AI testləri zamanı təhlükəsizliyi artırır, lakin hesabın göstərdiyi kimi, bu eyni zamanda onun faydalılığını da məhdudlaşdırır.

Təhlükəsizlik tədbirləri seriyasında ən son addım

İnternet girişinin söndürülməsi yalnız ən son addımdır ki, Anthropic agentlərini ələ almaq üçün qəbul etdi, o cümlədən ön modellərin tədrisini müvəqqəti dayandırmaq. Hesab The Verge-in AI superintellektin ləngiməsi adlandırdığı materialın hissəsidir.

Mənbələr: The Verge Ai