Anthropic, Dış Gözetim Kuruluşu METR'e Model Risklerini Test Etmek İçin “Çalışan Benzeri Erişim” Verdi

Anthropic, METR değerlendiricilerini ofislerine yerleştiriyor

Anthropic, modellerinin risklerini değerlendirmek için dış değerlendiricilere “çalışan benzeri erişim” verdi ve teknolojinin kontrolden çıkıp felaketle sonuçlanabileceği endişeleri üzerine güvenlik önlemlerini artırma taahhüdünü yerine getirdi. OpenAI, Anthropic, Google ve Meta dahil önde gelen laboratuvarlarla çalışan kâr amacı gütmeyen METR'in artık Claude'u yapan şirketin ofisinde bir ekibi var ve bu ekip donanım ile dahili sistemlere erişebiliyor.

Anthropic, altı METR çalışanını işe aldı ve şirket donanımı, ofis alanı ile kendi risk değerlendirme ekiplerinin sahip olduğu düzeye yakın dahili araç ve sistem erişimi sağladı. Şirket, çalışanların bilgileri risk alanında çalışan bir meslektaşlarıyla paylaştıkları gibi değerlendiricilerle de paylaşmalarını teşvik ettiğini söyledi. Anthropic, METR'ye bu düzenleme için ödeme yapmıyor.

Baş rakipler tarafından desteklenen bir öneri

Anthropic icra kurulu başkanı Dario Amodei, Eylül ayında OpenAI ile SpaceX patronları Sam Altman ve Elon Musk, önde gelen laboratuvarlara dış denetçiler yerleştirme önerisini destekleyince nadir bir birlik anı yaşadı. Perşembe günü yapılan duyuru, bu taahhütlerin uygulanmasına doğru ilk adımı işaret ediyor. Altman, Amodei'in önerilerinin iyi bir fikir olduğunu söyledikten sonra, OpenAI henüz değerlendiricileri almaya yönelik planlarını açıklamadı.

Anthropic, modeller güçlendikçe daha güçlü güvenlik önlemleri ve daha zorlu risk değerlendirmesi gerektiğini belirtti. Şirket, verdiği kararlardan kamu önünde sorumlu olmak istiyor ancak güvenlik çalışmalarıyla ilgili tüm bilgileri kamuyla paylaşamayacağını savunuyor. Şirket, değerlendirici modelini banka denetimine benzetiyor; bu modelde düzenleyiciler en büyük bankaların içinde çalışacak yerleşik müfettişler atıyor.

Çıkar çatışmaları ve halka arz baskısına yönelik inceleme

Değerlendirici düzenlemelerinin eleştirmenleri, bunların çıkar çatışmalarına yol açabileceğini, muhasebe sektöründeki sorunlara işaret ederek daha fazla devlet düzenlemesi gerektiğini öne sürdü. Anthropic ise bilgilerin kamuyla paylaşılmasının kötü niyetli aktörlere veya rakiplere yararı olabileceğini söyledi.

Şirket ayrıca yatırımcıları, güvenlik sorunlarının bu yıl 2 trilyon dolardan fazla değerlemeyle beklenen halka arzını gölgelemeyeceğine ikna etme baskısı altında. Bu hafta yatırımcı sunumlarının büyük bir bölümünü güvenlik uygulamalarını anlatmaya ayırdı.

Yayın koşulları ve diğer test edenler

Değerlendiriciler analizlerini yayımlayacak ve Anthropic yayınını veto edemez. Ancak müşteri verileri, avukat-müvekkil gizliliği kapsamındaki ayrıntılar veya model mimarileri hakkında bilgiler gibi belirli kategorilere giren bilgileri gizlemesini isteyebilir.

METR, kontrolden çıkmış OpenAI modellerinin Hugging Face'e yönelik saldırıyı araştıran kuruluşlardan biriydi; binlerce kaydı inceledi ve şirket dizüstü bilgisayarları aldı. Grup, yapay zekâ şirketlerinden veya çalışanlarından bağış kabul etmiyor, bunun yerine bireylerden, hayır kurumlarından ve Birleşik Krallık'ın AI Security Institute'ü gibi devlet kurumlarından fon alıyor.

Anthropic, geçen ay güvenlik testinde ortak olarak gösterilen Accenture ile hâlâ çalıştığını ve her birinin yeni güvenlik önlemleri kurmak için en az 1 milyar dolar taahhüt ettiğini söyledi. Başka bir üçüncü taraf test eden olan SecureBio, şirket için kimyasal ve biyolojik silah riskini gözden geçiriyor. Anthropic, “Değerlendiricileri gönüllü olarak yerleştiriyoruz ve her öncü yapay zekâ şirketinin aynısını yapması gerektiğine inanıyoruz,” dedi. METR, kamuoyuna daha iyi kanıt sunmak için tüm öncü yapay zekâ geliştiricileriyle çalışmaya hazır olduğunu söyledi.

Kaynaklar: Ars Technica