The Download: Yapay zekadaki son atılımlar ve korkular neden gerçekten çok abartı olabilir

MIT Technology Review'ın günlük bülteni The Download, 22 Eylül sayısını yapay zeka etrafındaki "abartı yazına" ayırdı. Sayının ana metni, Distributed AI Research Institute (DAIR) yöneticisi Timnit Gebru ile Washington Üniversitesi dilbilim profesörü Emily M. Bender'in görüş yazısı. İkili, son aylardaki yüksek perdeden açıklamaların gerçek atılımlardan çok pazarlamaya benzediğini savunuyor.

Yazının anlattıkları

Zaman çizelgesi nisan sonunda başlıyor: Anthropic, Claude Mythos modelinin yazılım açıklarını güvenlik uzmanlarının çoğundan daha iyi bulduğunu açıkladı. Ardından OpenAI ile Hugging Face'i kapsayan hack olayı yaşandı; sonrasında Anthropic ve Meta benzer olayları kendileri duyurdu. Kısa süre sonra Anthropic matematikte bir atılım açıkladı, OpenAI da kendi atılımını duyurdu. Son olarak Anthropic mühendisi Jacob Coxon, şirketlerin kendi kendini geliştiren süper zekaya doğru ilerlediğini ve insan hayatını riske attığını söyleyerek geniş yankı uyandırdı.

Bağımsız incelemeler ne gösterdi

Siber güvenlik uzmanlarına göre hack hikayesi, kontrolden çıkan modellerden çok OpenAI'nin ihmalini ve yerleşik güvenlik uygulamalarını uygulamamasını anlatıyor. OpenAI'nin Astra sohbet robotuyla ilgili açıklamasına ilk başta şaşıran matematikçiler, sonuçların göründüğü kadar yeni olmadığı sonucuna vardı ve şirketi araştırma suistimali ile intihalle suçladı. New York Üniversitesi Courant Enstitüsü'nden profesör Tristan Buckmaster ise OpenAI'nin başkalarının çalışmasını sahiplendiğini öne süren bir açıklama yayımladı.

Bu neden önemli

Gebru ve Bender, süper zeka ya da başıboş model gibi ifadelerin iradeyi ürüne atfettiğini, oysa sorumluluğun onu geliştiren şirketlerde olduğunu söylüyor. Bu çerçeve ürünleri insanüstü diye pazarlarken şirketlerin hesap vermekten kaçınmasına da yardım ediyor. Yazarlar, yüzlerce matematikçinin imzaladığı ve sektörün yeteneklerini abartmak için güçlü bir ticari teşviki olduğunu belirten çağrıya atıf yapıyor ve politika yapıcıların basın bültenleri yerine bağımsız uzmanlara danışmasını istiyor. Ayrıca sektörün veri merkezlerine yönelik kamu tepkisini dikkat dağıtma olarak adlandırdığını, oysa gerçek sorunların elektrik faturaları, su kullanımı ve hava kirliliği olduğunu ekliyorlar.

Aynı sayıdaki diğer haberler

Bültene göre 22 ülke, yapay zeka denetimi için dağıtım öncesi testler ve ortak güvenlik standartları içeren yeni bir küresel organ kurulması çağrısı yaptı; ABD ve Çin ise bildiriye katılmadı. Teksas, şebeke denetimi tamamlanana kadar veri merkezleri için yeni izinleri durdurdu; Kaliforniya ise elektrik ve su kullanımını düzenleyen yasaları kabul etti. AMD, yapay zeka çipi satışlarının hisselerini bu yıl %180'den fazla artırmasıyla 1 trilyon dolarlık değere ulaşan on ikinci şirket oldu. Meta'nın yapay zeka ajanı Muse ise ChatGPT'yi geçerek ABD App Store'da zirveye çıktı.