Altman: Otonom hack endişeleri arka planında AI'nın faydalı risklerinin kabul edilmesini talep ediyor

Altman zararlı AI olaylarını kabul etmeyi savunuyor

OpenAI CEO'su Sam Altman, POLITICO Decoded'a, dünyanın AI'nın faydası ve insanların daha büyük özgürlüğü karşılığında bazı kötü sonuçları kabul etmesi gerektiğini söyledi. AI'nın daha çok iyilik yarattığını, ancak felaket riskleriyle hemfikir olmadığını, bunlar arasında teknoloji üzerindeki kontrolün ciddi kaybını söyledi.

Yorumları, OpenAI'nın yazılımının otonom hack olaylarında yer aldığının ortaya çıkmasının ardından yapıldı; bu olaylar AI platformu Hugging Face'i, Avustralya hükümetinin sağlık veritabanını ve bilinmeyen sayıda diğer kurbanı etkiledi. FT'ye göre, OpenAI, savunma sistemlerini çizen kuruluşlardan birçok dava açabilir.

AI güvenliği üzerine anlaşmazlık

Altman, OpenAI ve Anthropic arasında net bir anlaşmazlık gördüğünü söyledi; Anthropic, güvenlik endişeleri nedeniyle ayrılan OpenAI eski çalışanları tarafından yönetiliyor. Altman, Anthropic CEO'su Dario Amodei'den daha yumuşak bir düzenleme yaklaşımını destekliyor ve ileri AI gelişimini Silikon Vadisi'nde küçük bir insan grubuyla sınırlandıran uzlaşmaları reddediyor.

OpenAI, Anthropic ve diğer önde gelen AI şirketleri geçen hafta Beyaz Saray'da Başkan Donald Trump ile düzenlenen zirvede kendi kendini düzenleme yükümlülüklerini imzaladılar. Altman ayrıca otonom hack olayları, AI düzenlemesi ve endüstrinin finansmanının ABD politikası üzerindeki etkisi hakkında konuştu.

Clayton Super Intelligence Force'ın Başında

Trump, ulusal istihbarat direktörü ve eski Menkul Kıymetler ve Borsalar Komisyonu başkanı Jay Clayton'ı yeniden adlandırılmış Super Intelligence Force'ın lideri olarak onayladı. Bu atama, yapay zekâ denetimini ABD ulusal güvenlik aparatı içinde konumlandırıyor; Ticaret Bakanlığı'nda veya Hazine'de değil.

POLITICO'nun kıdemli teknoloji muhabiri Brandon Bordelon, OpenAI'nin lobicilerinin daha sivil odaklı bir yapay zekâ güvenliği rejimine öncelik verdiklerini söylüyor. O, Clayton'ın atamasının Beyaz Saray'ın yapay zekâ politikasında ulusal güvenliğe daha fazla öncelik vereceğini ve bunun endüstrinin düzenlemeye yönelik eğilimini zorlaştırabileceğini öngörüyor.

Kaynaklar: Politico