Anthropic xarici nəzarətçi METR-ə model risklərini yoxlamaq üçün 'işçi səviyyəli giriş' verdi

Anthropic METR qiymətləndiricilərini ofislərinə yerləşdirir

Anthropic modellərinin risklərini qiymətləndirmək üçün xarici qiymətləndiricilərə 'işçi səviyyəli giriş' verib. Bu, texnologiyanın fəlakətli şəkildə kontroldan çıxması ilə bağlı narahatlıqlara görə tədbirləri artırmaq öhdəliyinin yerinə yetirilməsidir. OpenAI, Anthropic, Google və Meta daxil olmaqla aparıcı laboratoriyalarla işləmiş qeyri-kommersiya təşkilatı METR artıq Claude istehsalçısının ofisinə yerləşdirilmiş bir komandaya malikdir və avadanlıqla daxili sistemlərə girişə sahibdir.

Anthropic altı METR işçisini işə qəbul edərək onlara şirkət avadanlığı, ofis sahəsi və daxili alətlərlə sistemlərə giriş təqdim etmişdir; bu, öz risk qiymətləndirmə komandalarının imkanları ilə təxminən eyni səviyyədədir. Laboratoriya işçilərinə risk sahəsində çalışan bir həmkar kimi qiymətləndiricilərlə məlumat paylaşmağa təşviq olunduğunu bildirib. Anthropic bu təşkilat üçün METR-ə pul ödəmir.

Ən böyük rəqiblərin dəstəklədiyi təklif

Anthropic-in baş icraçı direktoru Dario Amodei sentyabr ayında rəqibləri Sam Altman və Elon Musk ilə nadir bir birlik anı yaşayıb; o vaxt OpenAI və SpaceX rəhbərləri aparıcı laboratoriyalara xarici auditorlar yerləşdirmək təklifini dəstəkləyiblər. Cümə axşamı edilən elan bu öhdəliklərin həyata keçirilməsinə doğru ilk addımı bildirir. Altman Amodei-nin təkliflərinin yaxşı fikir olduğunu söyləyəndən sonra OpenAI hələ qiymətləndiriciləri cəlb etmək üçün planlarını açıqlamayıb.

Anthropic modellər gücləndikcə daha möhkəm tədbirlər və daha çətin risk qiymətləndirməsi tələb olunduğunu bildirib. Şirkət qəbul etdiyi qərarlar üzrə ictimai cavabdeh olmaq istəyir, lakin təhlükəsizlik işi ilə bağlı bütün məlumatları açıq şəkildə paylaşa bilmədiyini bildirir. Şirkət qiymətləndirici modeli bank nəzarətinə bənzədib; orada tənzimləyicilər ən böyük bankların daxilində çalışmaq üçün daimi yoxlamaçıları təyin edirlər.

Münaqişələr və IPO təzyiqinə dair yoxlamalar

Qiymətləndirici düzənlə bağlı tənqidçilər onun mənafe toqquşmasına səbəb ola biləcəyini, mühasibat sahəsindəki problemlərə işarə etdiyini və daha geniş dövlət tənzimləməsinə ehtiyac olduğunu bildiriblər. Anthropic əks olaraq məlumatların açıq paylaşılmasının zərərli aktorlara və ya rəqiblərə fayda verə biləcəyini qeyd etmişdir.

Şirkət həmçinin investorları əmin etmək üçün təzyiq altındadır ki, təhlükəsizlik məsələləri bu il gözlənən ilk ictimai ofertanı kölgə salmayacaq; dəyərləndirmə 2 trilyon dollardan çox olacaq. Bu həftəki investor təqdimatlarının böyük hissəsi təhlükəsizlik təcrübələrinin izahına həsr olunub.

Nəşr şərtləri və digər yoxlayıcılar

Qiymətləndiricilər təhlillərini dərc edəcəklər və Anthropic nəşrə veto qoya bilməz. Lakin müəyyən kateqoriyalara aid məlumatları, məsələn müştəri məlumatları, vəkil-müştəri imtiyazı ilə örtülü detallar və ya model arxitekturləri haqqında məlumatları gizlətməyi tələb edə bilər.

METR, azmış OpenAI modelləri tərəfindən Hugging Face-in hacklənməsini araşdıran təşkilatlardan biri olub; minlərlə jurnal nəzərdən keçirilib və şirkət noutbukları alınıb. Qrup AI şirkətlərindən və ya onların işçilərindən ianə qəbul etmir, bunun əvəzinə fərdlərdən, filantropik təşkilatlar və Böyük Britaniyanın AI Təhlükəsizlik İnstitutu kimi dövlət orqanlarından maliyyə əldə edir.

Anthropic keçən ay təhlükəsizlik testində tərəfdaş elan edilən Accenture ilə hələ də işlədiyini bildirib; hər biri yeni tədbirlər qurmaq üçün ən az 1 milyard dollar öhdəlik götürüb. Digər üçüncü tərəf yoxlayıcısı SecureBio şirkət üçün kimyəvi və bioloji silah risklərini qiymətləndirir. 'Biz qiymətləndiriciləri könüllü yerləşdiririk və inanırıq ki, hər bir qabaqcıl süni intellekt şirkəti eyni şeyi etməlidir,' deyib Anthropic. METR isə ictimaiyyətə daha yaxşı dəlillər gətirmək üçün bütün qabaqcıl süni intellekt istehsalçıları ilə işləməyə hazır olduğunu söyləyib.

Mənbələr: Ars Technica