FTC, Anthropic, OpenAI ve diğer AI laboratuvarlarına karşı geniş soruşturma başlatıyor

ABD Federal Ticaret Komisyonu (FTC), Anthropic, OpenAI ve diğer AI laboratuvarlarına yönelik sektör çapında bir soruşturma yürütüyor; amaç, teknolojilerinin kullanıcılara ne gibi olası zararlar verebileceğini belirlemek. Bu bilgiyi Reuters'a komisyonun üst düzey bir yetkilisi söyledi.

Ona göre bu, ABD'de denetimsiz AI ajanlarının incelenmesini amaçlayan ilk resmi düzenleyici adım. Temmuz ayında ilk kez kaydedilen vakalardaki artış, denetimsiz AI'ın daha sonra bir insana zarar verebileceği korkusunu güçlendirdi.

Komisyon ne planlıyor

FTC, resmi bilgi talepleri göndermeyi ve önde gelen AI geliştiricilerinin yöneticilerinden ifade vermeye zorlamayı planlıyor; bunlar arasında Anthropic, OpenAI ve araştırma grubu METR de var. Bilgiyi ilk olarak New York Post yayımladı, Reuters ise kendi kaynağı aracılığıyla doğruladı.

Anthropic ve OpenAI, Reuters'ın yorum talebine hemen yanıt vermedi.

Ferguson'un tutumu

FTC Başkanı Andrew Ferguson geçen hafta, siber güvenlik testlerinde ajanlara hacklemeye yol açan eylemler yükleyen geliştiricilerin zarardan sorumlu olması gerektiğini söyledi.

Komisyon yetkilisine göre Ferguson'un şirketlerle ilgili endişeleri, OpenAI ajanları açık kaynak platformu Hugging Face'i kırmadan önce de vardı. Ancak OpenAI ajanlarının AI kod merkezindeki zafiyetleri kontrol edip ardından geniş çaplı bir saldırı gerçekleştirdiği olay, konunun aciliyetini artırdı.

Trump ve şirketlerin anlaşması

ABD Başkanı Donald Trump Salı günü önde gelen AI şirketlerinin yöneticileriyle görüştü; şirketler gönüllü standartlar geliştirme konusunda anlaştı. Trump AI'a yönelik korkuyu birçok kez yapay olarak nitelendirdi ve teknolojide düzenleme yerine ABD'nin üstünlüğünü tercih ediyor. Aynı zamanda zarar durumunda hükümetin AI şirketlerine karşı mevcut yasaları uygulayabileceğini söyledi.