Michael I. Jordan AI'nın korkutma retoriğini "büyük ahlaken performans" olarak nitelendiriyor

Öncü AI panigine karşı çıkıyor

Science dergisi tarafından 2016'da "en etkili bilgisayar bilimcisi" olarak nitelendirilen Michael I. Jordan, AI'nın varoluşsal tehlikeleri uyarılarını saf bilim kurgu olarak nitelendiriyor. 70 yaşındaki makine öğrenmesi öncüsü, UC Berkeley profesör emeritus, Libération ile geniş bir röportajda konuştu. Şu anda Paris'te, dijital bilim ve teknolojileri araştırmalarının Fransız ulusal enstitüsü olan Inria'da tam zamanlı çalışıyor ve "Piyasalar ve Öğrenme" adlı yeni bir koltuğu yönetiyor.

Yaz AI tartışması sırasında Jordan, bunu "tamamen umutsuz" olarak nitelendirdi. 2019'da bile AI teriminin aşırı kullanımı konusunda uyardı ve tasyonun beklenen bir yol izlediğini söylüyor. "AI yeterli değildi, bu yüzden AGI hakkında konuşmaya başladılar, şimdi ise 'süper zeka' hakkında konuşuluyor," diyor.

İstifalar tiyatro olarak değerlendirildi

Jordan, AI şirketlerinin düzenleme taleplerini "tiyatro" olarak nitelendiriyor: Ona göre, böyle söylüyorlar "biz iyiyiz", aynı zamanda "nasıl düzenlendiklerini tam kontrol etmek istiyorlar". Anthropic'ın genç araştırmacısı Jacob Coxson'un istifasına işaret ediyor, ki ona göre bu, Eylül başında "AIpocalypse" nedeniyle kolektif histeriye neden oldu.

Jordan'a göre, bu şirketlerde birçok genç "gerçekten mühendis değil" ve insani bilimlerden veya felsefeden geliyor. "25 yaşında kalpleri var," diyor ve "Paris'in 1920'lerindeki kafeleri gibi" büyük bilim kurgu fikirleri hakkında konuşmak için toplandıklarını belirtiyor. İşi bırakırken dikkat çekmek istediklerini ve "zaten hisse opsiyonlarına sahip olduklarını" biliyorlar. Jordan bunu naivlik ve sinizmle "büyük ahlaken bir performans" olarak nitelendiriyor.

Süper zeka ve teknoloji eliti

Jordan "süper zekayı" bilim kurgu terimi olarak nitelendiriyor ve onu baskın söylem olarak kullanmayı teknolojik gelişme, gençler ve ülkelerin düşünceleri için "çok utanç verici" buluyor. Terimin ABD teknoloji eliti tarafından Trump'ın üzerine çekildiğini, elitin ise bununla keyif aldığını belirtiyor.

Nobel ödüllü Geoffrey Hinton'ı özellikle sert bir şekilde eleştiriyor: "Hiç gerçek insanlara gerçek hizmetler sunan bir şirket kurmadı." Jordan, Hinton'ın beynin çözülmüş olduğu ve silikon kopyalarla üstel büyüme sağladığı argümanını reddediyor ve bunun hiçbir adımının ikna edici olmadığını söylüyor. Joshua Bengio'ya karşı biraz daha olumlu, çünkü "hareket ediyor ve doğrudan güvenliğe odaklanıyor", aralarında ajan gruplarının kontrolden çıkması konusunda uyarılar da bulunuyor.

Mühendislik hataları ve veri merkezlerinin bataklığı

Jordan, OpenAI ajanlarının Hugging Face'i hacklemesini kötü mühendislik olarak nitelendiriyor ve kimya mühendisliğine benzetiyor, patlamaların sadece işin ne kadar kötü gideceğini görmek için yapılmadığını söylüyor. OpenAI'nin "yeterince aptalca deneyler yaptığını" söylüyor, oysa korkutucular bu bölümü öz farkındalığı olan ajanların tehlikeli bir hikayesine dönüştürdüler, ki Jordan bunu yine bilim kurgu olarak nitelendiriyor.

Veri merkezlerine trilyonlarca dolarlık yatırım dalgası hakkında Jordan, bunun "devasa bir bataklık olduğunu ama hiçbirimizin doğru olup olmadığını bilmediğini" söylüyor. LLM'lerin doğal dil görevleri için yeterince yetenekli olduğunu ve ilerlemenin genellikle devasa veri merkezleri gerektirmeyen uzmanlaşmış yerel bilgi eklemeyi gerektirdiğini savunuyor, özellikle şirkette açık ağırlıklı modeller entegre edildiğinde.

Kaynaklar: The Decoder