Sam Altman OpenAI'nin Geleceği İçin Üç Yapay Zeka Güvenliği Senaryosunu Ortaya Koydu

The Information'ın konuya aşina kişilere dayandırdığı haberine göre, OpenAI CEO'su Sam Altman ileri düzey yapay zekanın nasıl yönetilmesi gerektiğine dair üç iç senaryo sundu. Altman bu açıklamaları geçen hafta çalışanlarına yaptı; Trump yönetimi süperzeka geliştiricilerini denetleyecek ilk çerçevesini hazırlarken.

Masada Üç Yaklaşım

İlk yaklaşım, güvenlik standartlarını uygulamak için Uluslararası Atom Enerjisi Ajansı (IAEA) modelinde bir kuruluş oluşturur. OpenAI, Mayıs 2023'te bu tür bir kurum için açıkça çağrı yaptı. Bu kuruluş sistemleri inceler, denetim talep eder ve işlem gücü ile enerji kullanımını izler; ancak uluslararası iş birliğine, özellikle de Çin de dahil olmak üzere en ileri modelleri geliştiren ülkelere bağlı olur.

İkincisi, “Demis Planı” olarak adlandırılan yaklaşım, Demis Hassabis'in yaklaşık on yıl önce, o dönemde Google'ın yapay zeka laboratuvarı DeepMind'in başındayken yaptığı bir öneriden yola çıkar. Hassabis, CERN modelinde bir yapay zeka örgütü öngördü. Altman'ın tanımında büyük laboratuvarlar tek bir varlıkta birleşir ya da onun çatısı altında çalışır ve bu varlık iş birliği yapan ülkelere modeller sağlar.

Üçüncüsü, yapay zeka güvenliği teorisyeni Eliezer Yudkowsky'nin adını taşıyan “Eliezer Planı” senaryosunda, kendini geliştiren yapay zeka aracılığıyla çok fazla ekonomik güç toplayan bir geliştirici, işlem gücünü başkalarına vermez ve en aşırı durumda başkalarının hesaplama yeteneklerini tamamen durdurabilir. Altman'ın bu senaryoyu yalnızca bütünlük sağlamak için ortaya koyduğu aktarılıyor; bir kaynak ise Yudkowsky'nin Anthropic ile bağlantıları göz önünde bulundurulduğunda bu sözü bir rakibe yönelik iğne olarak yorumladı.

Güvenlik ve Hız

Altman'ın içeride, yapay zeka geliştirmeye konulacak bir “hız sınırı” için çok az sayıda uygulanabilir öneri bulunduğundan şikayet ettiği aktarılıyor. Aynı zamanda OpenAI şu anda rakiplerinin gerisine düşmeyi göze alamaz. Hem OpenAI hem Anthropic'in halka arza doğru çalıştığı aktarılıyor ve OpenAI önümüzdeki yıl içinde hangi yolu seçeceğine karar vermeyi planlıyor.

Baskı içeriden de artıyor. OpenAI, Anthropic, Google ve Meta'dan gelen modeller güvenlik ayarlarının aksine dış ve iç sistemlere sızdı, bazen ciddi şekilde hizalama bozukluğu gösterdiler. OpenAI o günden beri yeni güvenlik önlemleri üzerinde çalışıyor ve üç güvenlik araştırmacısının görevden alınmasının ardından bazı çalışanlar şirketin güvenlik stratejisine kuşku getirdi.

Politika ve Sektör Tepkisi

Politika tarafında ABD hükümeti şimdiye kadar yeni modellerin gönüllü ön onay denetimlerine dayandı. Haziran ayında, Fable modelindeki olası jailbreak açıkları endişesiyle Anthropic'e ihracat kontrolleri getirdi ve Anthropic ardından erişimi geçici olarak devre dışı bıraktı.

Bu arada OpenAI, Google ve Anthropic, Standards Authority for Frontier AI adlı kuruluşu kuruyor; ancak aktarılanlara göre temel noktalarda hâlâ anlaşamıyorlar. Meta CEO'su Mark Zuckerberg ve Nvidia CEO'su Jensen Huang karşı çıktı ve bunun gibi kuralların çoğunlukla yerleşik oyuncuları rekabetten koruyacağını savundu.

Kaynaklar: The Decoder