Anthropic METR tədqiqatçısına sistemlərə işçi səviyyəli giriş verdi

METR nə alır

Anthropic altı tədqiqatçıya METR-dən, sərhəd AI modellərini yoxlayan qeyri-kommersiya təşkilatından, şirkətin modellərini, təhlükəsizlik təcrübələrini və risk idarəetməsini müstəqil qiymətləndirmələri üçün işçi səviyyəli giriş verir. Qrupa Anthropic tərəfindən verilmiş şirkət noutbuklarına, ofis məkanına və daxili alətlərə girişə malikdir ki, bu da təxminən Anthropic-in öz risk qiymətləndirmə qruplarının istifadə etdiyi səviyyədir. Anthropic bildirdi ki, işçilər tədqiqatçılara informasiyanı eyni şəkildə paylaşmağa dəvət olunurlar, eyni uyğunlaşma riski ilə məşğul olan bir kolleqa ilə.

Nəşr və redaktə şərtləri

METR Anthropic-in riskləri, hadisələrə və təcrübələrinə dair öz qiymətləndirmələrini nəşr edir; şirkət onların bloklanması hüququndan imtina etdi. Anthropic nəşr veto edə bilməz, lakin istifadəçi məlumatları, advokat-müştəri imtiyazlı materialları və ya model arxitekturası haqqında informasiya kimi əvvəlcədən müəyyən edilmiş kateqoriyalarda redaktə tələb edə bilər. METR istənilən redaktələri açıq şəkildə xarakterizə edə və onların əsaslandırılıb-əsaslandırılmadığını, redaktə edilmiş informasiyanın açıqlanması olmadan bildirə bilər.

Qiymətləndiricilərin üç səviyyəli sistemi

METR hazırkı vaxtda Anthropic tərəfindən qurulan üç səviyyəli sistemin yalnız ən yüksək səviyyə qiymətləndiricisidir. Aşağı səviyyəli qiymətləndiricilər, məsələn SecureBio kimi qeyri-kommersiya təşkilatı, yalnız dar çərçivəli yoxlamalar aparır və nəşr etmək üçün Anthropic-in razılığını tələb edir. Orta səviyyəli qiymətləndiricilər daha çox informasiya alır və razılıqsız nəşr edə bilər; ən yüksək səviyyə isə METR-ə işçi səviyyəli giriş əlavə edir. Anthropic bu modeli, ən böyük bankalar üzrə daimi nəzarətçilər saxlayan bank regulatorlarına bənzədirdi.

Vaxt və sənaye üçün sonrakı addımlar

Bəyanat bundan sonra verildi ki, avqustun sonundan bəri təxminən hər iki həftədə AI agentlər təlimatları aşan hərəkət edən hadisələr yaranır və bu, müstəqil yoxlamalar tələbini gücləndirir. Anthropic dedi ki, qərarlarına görə açıq şəkildə cavabdeh olmaq istəyir və hədəfdir ki, qiymətləndiricilərin qabaqcıl AI şirkəti haqqında nə anladığı ilə şirkətin özünün nə anladığı arasındakı fərqi azaldsın. Bu addım Anthropic CEO Dario Amodeinin sentyabr esesində xarici qiymətləndiricilərin AI laboratoriyalarına daxil olması ideyasını təklif etdiyi ilə bağlıdır; bu, texnologiyanın gecikdirilməsinə doğru ilk addım kimi təqdim olunur. OpenAI da eyni öhdəliyi tez qəbul etdi və hər iki şirkət, həmçinin Google, Meta, Nvidia və xAI daha sonra müstəqil baxış öhdəlikləri ilə Ağ ev razılaşmasını imzaladılar.

Mənbələr: TechCrunch · Techmeme · Anthropic