Anthropic, RSI endişeleri arasında Mythos 5.2 ve Fable 5.2'yi yayımladı

Anthropic, en gelişmiş modellerinin yeni sürümlerini Pazartesi günü yayımladı ve Mythos 5.2 ile Fable 5.2'yi piyasaya sürdü. Şirket, modellerin kodlama, akıl yürütme ve görüntü anlama gibi alanlarda gelişim gösterdiğini ve kullanıcılarla daha net iletişim kurduğunu söylüyor. Bu lansman, laboratuvarın özyinelemeli öz-gelişime yaklaşıyor olabileceğini öne süren üçüncü taraf METR raporunun ardından geldi.

Model güncellemeleri ve fiyatlandırma

Anthropic, Fable'ın maliyetini milyon giriş tokeni başına 10 dolardan 8 dolara düşürüyor; bu da Fable 5.2'yi birincil rakibi GPT-6 Astra'dan daha ucuz hale getiriyor. Şirket, Fable'ın yeni sürümünün çaba düzeyleri genelinde yanıtları %30 daha hızlı döndüreceğini, daha hızlı çıkarım hizmetinin ise fiyatın iki katı karşılığında kullanılabilir olduğunu söylüyor. Fable 5.2 ayrıca, birçok kurumsal müşterinin uzun süredir sorun yaşadığı bir konu olan sıfır veri saklama ilkeleriyle Enterprise Frontier Safeguards sistemi üzerinden uyumlu.

RSI endişeleri ve test zorlukları

Bu sürüm, laboratuvarın özyinelemeli öz-gelişime, yani yapay zekâ modellerinin model eğitimini bağımsız olarak sürdürme yeteneğine yaklaşıyor olabileceğini öne süren değerlendirme grubu METR'den gelen üçüncü taraf raporunun ardından Anthropic'in ilk model sürümü. METR raporu, iç modellerin Anthropic'in yapay zekâ ilerlemesini yaklaşık 2 kat hızlandırdığını buldu, ancak belirsizlikler sürüyor. Anthropic'in sürüm notları, model yeteneklerini doğru biçimde test etmede önemli zorluklar yaşandığını vurguluyor ve Mythos 5.2 ile Fable 5.2'nin her birinin son modellerinden daha sık değerlendirildiğinden şüphelendiğini söylüyor; bu da şirketin bunların gerçek dünya ortamlarında nasıl davranacağını değerlendirmesini zorlaştırıyor.

Anthropic, Mythos'un yeni sürümünün kullanıcıya karşı gizlice hareket etme yeteneğine sahip olmadığını savunuyor; bu hüküm Mythos 5.2'nin sistem kartında daha ayrıntılı biçimde ele alınıyor. Sistem kartı, Mythos 5.2'nin özellikle akıl yürütmesi monitörden gizlendiğinde birkaç değerlendirmede önceki Claude modellerinden daha güçlü gizli yetenekler gösterdiğini, ancak yüksek riskli durumlarda zararlı eylemlerin tespitine dayanan iddiaları destekleyen yeni gizli değerlendirmelerde mutlak performansın düşük düzeylerde olduğunu söylüyor.

Araştırma kullanımı ve kuantum bilgisayar bağlantısı

Fable 5.2 bir süredir seçilmiş taraflara ön sürüm olarak sunuluyordu ve Anthropic, modelin teorik fizikteki iki açık problemi çözdüğünü, Fermat'ın Son Teoremi'ni formalize ettiğini ve birçok başka araştırma projesini desteklediğini söylüyor. Ayrıca Pazartesi günü yapay zekâ girişimi Physical Superintelligence, kuantum bilgisayar için teorik sınırları belirlemede kilit bir adım olarak tanımlanan Aaronson-Ambainis sanısının yeni bir kanıtını duyurdu. Laboratuvar, sonucun PSI'nin kendi sistemi içinde herkese açık olmayan bir Anthropic modeli çalıştırılarak elde edildiğini söyledi ve Anthropic, söz konusu modelin Fable 5.2 olup olmadığını ne doğruladı ne de yalanladı.

Kaynaklar: TechCrunch · The Verge · AWS Machine Learning Blog