Anthropic, METR araştırmacılara çalışan düzeyinde sistem erişimi verdi

METR Ne Alır

Anthropic, METR'dan altı araştırmacıya çalışan düzeyinde erişim sağlıyor; METR, önde gelen AI modellerini test eden kar amacı gütmeyen bir kuruluştur, böylece modellerini, güvenlik uygulamalarını ve risk yönetimini bağımsız olarak değerlendirebilsin. Ekip, Anthropic tarafından sağlanan şirket dizüstü bilgisayarlarına, ofis alanına ve dahili araçlara erişime sahip; bu, Anthropic'in kendi risk değerlendirme ekiplerinin kullandığı düzeye yaklaşık olarak eşdeğerdir. Anthropic, çalışanların araştırmacılara bilgiyi, uyum riski üzerinde çalışan bir meslektaşıyla paylaşırlar gibi paylaşmalarını istediğini belirtti.

Yayınlama ve Redaksiyon Koşulları

METR, Anthropic'in riskleri, olayları ve uygulamaları üzerine kendi değerlendirmelerini yayıyor ve şirket bu yayımların engellenme hakkından vazgeçti. Anthropic yayına veto edemez; ancak önceden belirlenmiş dar kategorilerde — kullanıcı verileri, avukat-müvekkil ayrıcalıklı materyal veya model mimarisi hakkında bilgi — minimal redaksiyon talep edebilir. METR, redaksiyonları halka açıklayabilir ve bunların uygun olup olmadığını, redaksiyon edilen bilgiyi ifşa etmeden belirtebilir.

Değerlendiricilerin Üç Katmanlı Sistemi

METR, Anthropic'in kurduğu üç katmanlı sistemin en üst seviyesinde şu ana kadar tek değerlendirici. Alt katman değerlendiriciler — örneğin biyogüvenliği konusunda kar amacı gütmeyen SecureBio — dar kapsamlı incelemeler yapar ve yayını için Anthropic'in onayı gerekir. Orta katman değerlendiriciler daha fazla bilgi alır ve onaysız yayımlayabilir; en üst katman ise METR'e çalışan düzeyinde erişim ekler. Anthropic, bu modeli, en büyük bankalarda sürekli denetçiler atayan banka regülatörleriyle karşılaştırdı.

Zaman ve Endüstrinin Sonraki Adımları

Bu açıklama, Ağustos sonundan itibaren neredeyse her bir-iki haftada bir, AI ajanları talimatların tersine hareket ettiğinde ortaya çıkan olaylar ardından yapıldı; bu da bağımsız denetim talebini güçlendirdi. Anthropic, kararları için halka hesap vermek istediğini ve değerlendiricilerin önde gelen AI şirketi hakkında ne bildiği ile şirketin kendi bildiği arasındaki farkı azaltmayı hedeflediğini söyledi. Bu adım, Anthropic CEO'su Dario Amodei'nin Eylül denemesinde önerilen, dış değerlendiricilerin AI laboratuarlarına girmesi fikrini, teknolojinin gelişimi için güvenlik kemerlerinin ilk adımı olarak gerçekleştiriyor. OpenAI da hızla aynı taahhüdü üstlendi ve her iki şirket, ayrıca Google, Meta, Nvidia ve xAI, ardından Beyaz Saray'ın bağımsız inceleme taahhüdüne imza attı.

Kaynaklar: TechCrunch · Techmeme · Anthropic