Bu yazın yapay zekâ abartısı uzman incelemesinde neden çöküyor

MIT Technology Review'da 22 Eylül'de yayımlanan görüş yazısında, Dağıtık Yapay Zekâ Araştırma Enstitüsü'nün (DAIR) yöneticisi Timnit Gebru ile dilbilimci Emily M. Bender, bu yazın yapay zekâ açıklamaları dalgasının uzman incelemesinden geçemediğini savunuyor.

Gürültülü iddialarla dolu bir yaz

Yazarlar sıralamayı şöyle kuruyor: Nisan sonunda Anthropic, Claude Mythos modelinin yazılım açıklarını çoğu güvenlik uzmanından daha iyi bulduğunu iddia etti. Ardından OpenAI–Hugging Face saldırı olayı yaşandı; sonrasında Anthropic benzer bir olayı "gururla", Meta ise "isteksizce" açıkladı. Daha sonra Anthropic modellerinden birinin matematiksel bir atılım yaptığını duyurdu ve kısa süre sonra OpenAI kendi atılımını iddia etti. En sonunda Anthropic mühendisi Jacob Coxon, şirketten ayrıldığını duyurduğu paylaşımla viral oldu: ona göre iki şirket "kendini geliştiren süper zekâya doğru dümdüz yarışıyor ve hayatlarımızla kumar oynuyor".

Uzmanlar ne buldu

Yazarlara göre tantana yoğun haberleştirildi; oysa uzmanların incelemesiyle ortaya çıkan tablo çok daha az ilgi görüyor. Siber güvenlik uzmanlarına göre saldırı olaylarının özü OpenAI'ın ihmali ve yerleşik güvenlik uygulamalarını uygulamaması; "kontrolden çıkan modeller" değil. Astra adlı sohbet botunun en az on yıldır açık olan problemleri çözdüğüne dair basın bülteniyle önce şaşkına dönen matematikçiler, sonuçların ilk göründüğü kadar yeni olmadığı kanısına vardı ve şirketi araştırma etiği ihlali ve intihalle suçladı. OpenAI'ın bir başka matematiksel atılım iddiasından iki gün önce, New York Üniversitesi Courant Enstitüsü'nden profesör Tristan Buckmaster, şirketin başkalarının çalışmalarını kullandığını ve atfı yanlış yaptığını öne süren bir açıklama yayımladı.

"Süper zekâ": hem pazarlama hem kalkan

Yazarlara göre yaklaşan, tehlikeli bir süper zekâ söylemi iyi bilime ya da mühendisliğe dayanmıyor; transhümanizm, öjeni ve hayali dijital insanlara dair hüsnükuruntu ideolojilerine dayanıyor. Sistemleri "süper zekâ" ya da "başıboş modeller" diye adlandırmak, failliği onları kuran şirketlere değil ürünlere yüklüyor: ürünler "insanüstü" diye pazarlanırken şirketler sorumluluktan kaçabiliyor. Yüzlerce matematikçinin imzaladığı bir bildiri, "teknoloji sektöründe ürünlerinin yeteneklerini abartmaya yönelik güçlü bir ticari teşvik" olduğu uyarısını yapıyor ve politika yapıcıları basın bültenlerine değil uzmanlara danışmaya çağırıyor. Yazı ayrıca sektörün veri merkezi karşıtı hareketi "dikkat dağıtma" olarak sunmasını eleştiriyor: kamuoyundan veri merkezlerinin iklim etkisinden, çevredeki astımdan, artan elektrik faturalarından ve soğutmaya yönlendirilen sudan çok, hayali bir makine tanrısından korkması isteniyor. Yazarlar, bu abartı yazının en iyi sonucunun kamuoyunun kuşkuculuğunu koruması ve aynı kalıbı bir dahaki sefere tanıması olacağı sonucuna varıyor.