Bill Gates: Yapay zekânın kendi kendini denetlemesi yeterli değil, bir milyar ölüm riski var

Bill Gates, Washington'daki yasa koyucuları yapay zekâ geliştirmeyi düzenlemeye çağırdı. NBC News'in "Meet the Press" programında pazar günü tam yayınlanacak söyleşide konuşan Microsoft'un kurucu ortağı, yapay zekâ şirketlerinin kendi kendini denetlemesinin yeterli olmadığını söyledi.

"Kimse kendi kendini denetimi yeterli görmüyor"

Washington'da bir yasa çıkarılması gerekip gerekmediği sorusuna Gates net yanıt verdi: "Kesinlikle." Ona göre kolluk kuvvetleri ve siyasetçiler güvenlik önlemlerinin ve gözetimin nasıl olacağı tartışmasına katılmalı ve bu denetim sektör için zorunlu hale gelmeli. "Sektör için küçük bir ek maliyet olacak, ancak dramatik bir yavaşlama anlamına gelmeyecek" dedi.

Bu sözler, sektörün içinden haftalardır yükselen uyarıların ardından geldi. Anthropic ve OpenAI'nin CEO'ları bu ay yarışın yavaşlaması gerektiğinde anlaştı. Anthropic'ten istifa eden güvenlik araştırmacısı Jacob Coxon ise "iki şirket de sorumlu davranmıyor. Doğrudan kendini geliştiren süper zekâya doğru yarışıyor ve hayatlarımızla kumar oynuyorlar" dedi.

"Bir milyar ölüm" riski

Gates uzun vadeli tehlikeyi küçümsemedi. "Yapay zekâ, biliyorsunuz, bir milyar ölüme yol açacak olayları tetikleyecek kadar güçlü" dedi. "Yüzde 100'e ulaşmak oldukça zor olsa da, kötü niyetli insanların en yeni yapay zekâ araçlarını kullanması kadar güçlü bir silah hiç olmadı."

Sektörde bölünme, Kongre'de tıkanma

En gelişmiş modelleri geliştiren şirketler bölünmüş durumda. Anthropic CEO'su Dario Amodei, hızı dizginlemenin en etkili yolunun ABD'deki tüm öncü şirketleri kapsayan düzenleme olduğunu belirtti. OpenAI CEO'su Sam Altman bu hafta Birleşmiş Milletler'de uluslararası standartlara ihtiyaç olduğunu söyledi. Meta'nın kurucusu Mark Zuckerberg ise aynı fikirde değil: "Sektör çapında bir koordinasyona ihtiyacımız olduğunu düşünmüyorum" dedi.

Washington'da Temsilciler Meclisi Başkanı Mike Johnson, yasa koyucuları yapay zekâ yasasını geçirmek için geri çağırmayı reddetti ve kararı şirketlere bırakacağını söyledi.

Eyaletler ve Microsoft önce davranıyor

Federal adımlar tıkanırken valiler harekete geçiyor. California Valisi Gavin Newsom, eyaletin yapay zekâ güvenliği yasalarını güçlendirecek uzmanlar kurulu oluşturdu; Maryland Valisi Wes Moore ve New York Valisi Kathy Hochul da bu hafta kendi planlarını açıkladı. Microsoft Başkanı Brad Smith Birleşmiş Milletler oturumunda yapay zekâ şirketlerinin yavaşlamak için federal kuralları beklememesi gerektiğini söyledi.