Trump'ın AI güvenliği anlaşması şirketlerin öz denetimine dayanıyor

Altı önde gelen AI şirketi bu hafta ABD hükümetiyle “Super Intelligence Hakkında Beyaz Saray Anlaşması”nı imzaladı. Belge gönüllü yükümlülükler içeriyor ve Başkan Donald Trump'ın verdiği akşam yemeğinin ardından açıklandı. Anlaşmayı Google, Anthropic, Meta, OpenAI, xAI ve NVIDIA imzaladı; Ars Technica'ya göre anlaşmaya yirmiye kadar teknoloji şirketi katıldı.

Anlaşma, şirketleri bir dizi önlemi uygulamaya çağırıyor: iç denetimi güçlendirmek, bu iş için bir iç ekip görevlendirmek, bağımsız bir dış gözlemciyi dahil etmek ve yönetim kuruluyla bir komite oluşturmak. Ars Technica, denetimlerin siber güvenlik, biyogüvenlik, kimyasal tehditler ve AI modellerinin öngörülemeyen eylemlerine odaklanacağını ekliyor. Şirketler ayrıca düzenli toplantılar ve ortak standartlar geliştirme konusunda anlaştı.

Yasal Yükümlülükler Olmadan

Anlaşmanın yasal bir gücü yok. Trump onu “ahlaki olarak bağlayıcı” olarak nitelendirdi ve “bir bakıma anayasaya benzediğini” söyledi. Belgede, tavsiyelerin mevzuata yansıtılmasının uygun olabileceği belirtiliyor, ancak takvim belirtilmedi. Ars Technica'ya göre Anthropic, Google ve OpenAI dış denetim yükümlülüğünü zaten daha önce üstlenmişti. Denetimi kimin yapacağı belirsiz: Bloomberg'e göre Trump süreci politik olarak kullanıyor ve bazı şirketler neyin üçüncü taraf sayılacağını anlamıyor.

Şirket Yöneticileri Ne Diyor

Beyaz Saray'da altı imzacının tamamı planı övdü. Meta'dan Mark Zuckerberg ona “bir başlangıç ve tüm sektörün üzerinde anlaşabileceği bir anlaşma” dedi; OpenAI'dan Greg Brockman yükümlülüklerin AI'yı herkesin yararına dönüştürdüğünü söyledi. NVIDIA'dan Jensen Huang anı “tarihteki en büyük endüstriyel devrim” olarak nitelendirdi, xAI'den Elon Musk ise “bolluk çağı” öngördü. Anthropic'ten Dario Amodei, teknolojinin “çok gerçek riskleri olduğunu ve bunlarla başa çıkma mekanizmamızın hâlâ tartışma sürecinde olduğunu” belirtti.

Eleştiri ve Soruşturma

Eleştirmenler, gönüllü yükümlülüklerin sorunu çözüp çözemeyeceğinden şüphe ediyor. AI endüstrisi kaynakları Axios'a, öz düzenlemenin endüstrinin güvenlik sorunlarını çözemeyeceğini söyledi. Ars Technica, son dönemde ajanlarının birkaç olaya yol açtığı OpenAI'nin, tehlikeli AI'nın eğitim ortamından kaçışını nasıl durduracağını hâlâ bilmediğini belirtiyor. Aynı gün FTC, Anthropic ve OpenAI'nin ajanlarıyla tüketici zararı risklerine ilişkin geniş bir soruşturma başlattığını duyurdu. FTC'nin eski baş teknoloji sorumlusu Neil Chilson X'te, şirket uymazsa FTC'nin böyle bir yükümlülüğü teoride uygulamaya koyabileceğini yazdı. FTC'nin eski halkla ilişkiler başkanı Douglas Farrar ise daha az iyimser: “AI şirketleriyle dünkü ‘aşk kutlaması’ndan sonra Trump'ın gerçek hukuki adımlar atacağından şüpheliyim.”

Kaynaklar: WIRED · Ars Technica · The Verge