Anthropic, AI modellerinin kimliğini kanıtlamak için açık kaynaklı bir sistem üzerinde çalışıyor

Anthropic, Salı günü yayımlanan bir blog yazısına göre, belirli bir çıktıyı hangi AI modelinin ürettiğini doğrulamak için FlashProve adlı açık kaynaklı bir sistem üzerinde çalışıyor. Sistem, araştırmacıların “kanıtlanabilir çıkarım” dediği şeyi sağlamayı amaçlıyor: belirli bir çıktının belirli bir modelden geldiğini gösteren kriptografik bir kanıt. Kullanıcıların, bir yanıtın gerçekten kullandıklarını düşündükleri modelden geldiğini doğrulamasına yardımcı olması hedefleniyor.

FlashProve nasıl çalışacak

FlashProve, bir modeli başka bir model gibi göstermeye çalışan taklitçilere karşı dayanıklı olacak şekilde tasarlandı; bu taklitçi, modeli geliştiren ve çalıştıran laboratuvar bile olabilir. Araştırmacılar, bunun bir AI şirketinin maliyetleri düşürmek için gizlice daha ucuz bir modeli devreye sokmasını veya performans sonuçlarını yükseltmek için daha pahalı bir modeli kullanmasını önlemeye yardımcı olabileceğini söylüyor. Ayrıca üçüncü tarafların, belirli bir görevin gelişmiş bir model tarafından yapıldığına dair iddialarını doğrulayabilir; örneğin bir geliştiricinin bir yazılım kitaplığının üst düzey siber güvenlik modeliyle güvenlik açıkları açısından tarandığını iddia etmesi veya bir şirketin iş planının uygun bir model tarafından onaylandığını iddia etmesi gibi.

Model parmak izleri ve gizlilik

Sistemin çalışması için AI laboratuvarlarının yayımladıkları her modelin bir “parmak izini” yayımlaması gerekiyor. Bu parmak izleri daha sonra belirli çıktılara eşleştirilebilir ve kriptografik olarak doğrulanabilir. Parmak izleri, bir modelin davranışını belirleyen içsel sayılar olan ağırlıklarını açığa çıkarmaz; böylece laboratuvarlar en değerli varlıklarından vazgeçmeden bunları yayımlayabilir. Bu, sistemin ticari modellerle de çalışmasını sağlar.

Açık kaynaklı yayımlama ve sonraki adımlar

Sistem ayrıca hafif olacak şekilde tasarlandı; böylece doğrulama yerel bir cihazda yapılabilir. Duyurunun bir parçası olarak araştırmacılar, sistemin çeşitli unsurlarına ait ayrıntılı bir teknik şartname ve çalışan kodu açık kaynak lisansı altında GitHub'da yayımladı. Araştırma sürüyor ve Anthropic'te veya başka bir laboratuvarda bunu dağıtmaya yönelik plan yok; araştırmacılar yazıyı tamamlanmış bir araştırma gündemi yerine ara ilerlemenin paylaşılması olarak nitelendiriyor.

Kaynaklar: TechCrunch · Techmeme