Facebook kurucu ortağından AI için "denetim ofisi" önerisi

Facebook'un kurucu ortaklarından Chris Hughes, yapay zekâ şirketlerinin bankalar gibi denetlenmesi çağrısı yaptı. 23 Eylül'de Financial Times'ta yayımlanan yazısında, sınır yapay zekâ laboratuvarlarının içine devlet denetim ekipleri yerleştirecek bir "Yapay Zekâ Denetim Ofisi" (Office of AI Supervision) kurulmasını öneriyor; denetçilerin görev süresinin üç yılla sınırlı olması ise düzenleyici ele geçirme (regulatory capture) riskini azaltmayı amaçlıyor. Ayrıntılar, FT metnini özetleyen Techmeme'e dayanıyor.

Öneri neleri kapsıyor

Facebook'tan 2007'de ayrılan Hughes, "Marketcrafters: The 100-Year Struggle to Shape the American Economy" kitabının yazarı ve Brookings Institution'ta yerleşik olmayan araştırmacı. Ona göre iki sektör birbirine benziyor: ikisi de hızla değişiyor ve ekonominin tamamına yayılıyor; bu yüzden yetkililer inovasyonun sağladığı faydalarla yarattığı riskleri birlikte tartmak zorunda. Laboratuvarları dışarıdan denetlemek yerine kurulacak ofis, devlet denetçilerini şirketlerin içine yerleştirecek — denetledikleri şirketlere fazla yakınlaşmamaları için üç yıllık sabit süreyle.

Dayandığı argüman

Yazı, Anthropic'in CEO'su Dario Amodei'nin Eylül ayındaki "We Must Pace the Frontier" makalesini sürdürüyor. Amodei, bağımsız değerlendiricilerin AI şirketlerinin içinde masaları olması gerektiğini savunmuştu. Anthropic'in dış değerlendiricilere kendi iç risk ekiplerine benzer erişim — masalar, giriş kartları ve şirket dizüstü bilgisayarları — vereceğini, ayrıca bulgularını şirketin editoryal denetimi olmadan, sınırlı istisnalarla yayımlama hakkı tanıyacağını açıkladı. Amodei bu düzeni, düzenleyicilerin zaman zaman çalışanlarla birlikte oturduğu bankacılık denetimine benzetti ve hükümetlere diğer sınır laboratuvarlarını da buna zorlamaları çağrısı yaptı. OpenAI'dan Sam Altman da şirketinin aynısını yapacağını söyledi.

Neden önemli

Bankacılık denetçisi bir kuruma bir uygulamayı durdurmasını emredebilir, büyümesini kısıtlayabilir, uç durumlarda kurumu kapatabilir. AI laboratuvarları için önerilen değerlendiriciler ise şimdilik yalnızca inceleme yapıp rapor yayımlayabilecek, bir modelin eğitimini veya yayımlanmasını durduramayacak; gönüllü denetimin eleştirmenleri tam da bu boşluğa işaret ediyor. Hughes'un önerisi, laboratuvarlara dış yükleniciler yerine devlet ekiplerini sokması ve görev süresini sınırlamasıyla bir adım daha ileri gidiyor. Yazı, hükümetlerin de aynı soruyu tartıştığı bir dönemde yayımlandı: ABD Başkanı Donald Trump 22 Eylül'de BM'deki konuşmasında AI risklerine ilişkin uluslararası bir anlaşmayı reddetti ve yapay zekânın adının "super intelligence" olarak değiştirilmesini istediğini söyledi; aktaran Techmeme.