Anthropic ve OpenAI, AI değerlendiricilerle yayın hakları ve gizlilik üzerine tartışıyor

Yayın hakları ve gizlilik üzerinde müzakereler

İki bilgili kaynağa göre Anthropic ve OpenAI, sonuçların ticari sırları açığa çıkarabileceği endişesiyle dış değerlendiricilerin yayınları üzerinde daha sıkı kontrol talep etti. Şirketler 5 Ekim'de değerlendirmecilerin yayınları üzerinde katı editoryal kontrol istiyordu; 8 Ekim'de Anthropic ile bazı değerlendiriciler arasındaki müzakereler başka bir biçim aldı, dedi konuyu bilen bir kaynak.

Anthropic, önemli kontrol talebinin tüm müzakerelerini kesinlikle tanımlamadığını açıkladı. Dış hakemlerin yöntemlerini, değerlendirme kriterlerini, bulgularını ve neyi yayınlayacaklarını kendilerinin kontrol ettiğini; yeni değerlendirici şirketlerde ise raporlar hakkında yorum yapma ve onaylama yetkisini saklı tuttuğunu, bunların modellerinin performansını incelemeden önce geçerli olduğunu söyledi. OpenAI, raporların tam metni üzerinde onay yetkisi talep etmediğini ve standart uygulamasının gizli bilgileri redakte etmek olduğunu, değerlendiricilerin önemli redaksiyonların yapılıp yapılmadığını açıklayabileceğini ekledi.

Yerleşik değerlendiriciler ve fikri mülkiyet endişeleri

Geçen ay Anthropic, Accenture'ın özelleşmiş AI iş kolu Faculty'nin ilk yerleşik değerlendiricisi olacağını açıkladı; ancak erişim ve raporlama detayları hâlâ çalışılıyor. AI şirketleri, şirket duvarları içinde çalışan değerlendiricilerin çalışanlarının mülkiyet bilgisini rakiplere aktarabileceği endişesini taşıyor. Değerlendirilen önlemler arasında laboratuvar çalışanlarının yerleşik ekipleri gözetlemesi ve bir laboratuvara yerleşik değerlendiricilerin aynı anda başka bir laboratuvarda çalışmasını yasaklaması bulunuyor.

Faculty'nin CEO'su Marc Warner, Reuters'a değerlendiricilerin yalnızca insanların söylediklerine güvendiği durumda yararlı olduğunu ve bağımsızlık ile şeffaflığın kritik olduğunu söyledi. Biden yönetimi döneminde AI konularında ABD bilim elçisi olan ve Humane Intelligence PBC'nin CEO'su Rumman Chowdhury ise mutabık standartların yokluğunda laboratuvarların değerlendiricilerin bağımlı olduğu erişimi kontrol edebileceğini, bunun da neyin yayınlandığı üzerinde onlara bir kaldıraç sağladığını ifade etti.

Redaksiyon ve sınırlı erişim

OpenAI, OpenAI'nin gelişmiş modelleriyle yönetilen otonom ajanların kontrolünden çıktığı ve Hugging Face'in altyapısını bozan bir hacker saldırısına yol açtığı Hugging Face olayıyla ilgili Model Evaluation and Threat Research ile Redwood Research raporundan halka açık olmayan bilgileri çıkardı. Araştırmacılar, raporun yapısını, vurgularını, netliğini ve tonunu OpenAI'nin geri bildirimine dayanarak değiştirdiklerini, ancak bulguları için önemli başka bir şey çıkarılmadığını ve kendi bulgularını savunduklarını söyledi.

Bağımsız değerlendirme, geçen ay sonunda Başkan Donald Trump ve önde gelen AI yöneticileri tarafından imzalanan süper zekâya ilişkin tek sayfalık Beyaz Saray anlaşmasındaki dört güvenlik önleminden biriydi; ancak buna incelemelerin nasıl yapılması gerektiği belirtilmemişti. Değerlendiriciler ayrıca geçen ay, aralarında Geoffrey Hinton'ın da bulunduğu 200'den fazla araştırmacının imzaladığı kamuya açık mektupta kendi asgari koşullarını yayımladı ve bulgular üzerinde bağımsız kontrol, AI laboratuvarlarına geniş erişim ve misilleme koruması talep etti.

Kaynaklar: Yahoo · Reuters · Finimize