Timnit Gebru: AI'dan kaynaklanan varoluşsal bir risk yok, anlatı ise zararlı

AI araştırmacısı Timnit Gebru, AI'nın insanlığı tehdit edip etmediğine dair tartışmaların teknolojinin gerçek sorunlarından dikkat dağıtma değil, zararlı olduğunu söylüyor. WIRED'ın „The Big Interview“ podcast'inde sunucu Lauren Good'a şöyle dedi: „Bu masum bir sapma değil, bu zararlı“.

Söyleşi, Anthropic'teki genç bir araştırmacının görevinden ayrılıp X'te şirkette birçok kişinin AI'yı varoluşsal bir tehdit gördüğünü yazmasından sonra yayımlandı.

Döngülerle tekrarlanan retorik

Gebru'ya göre Elon Musk ve Peter Thiel 2013'ten beri AI'nın varoluşsal tehdidinden söz ediyor ve benzer açıklamalar her üç yılda bir geri dönüyor. MIT fizikçisi Max Tegmark ile Skype'ın kurucu ortaklarından ve Anthropic'in Series A turu yatırımcısı Jaan Tallinn'in kurduğu Future of Life Institute'u hatırlattı.

Ona göre Anthropic'in halka arzından en büyük kazancı bekleyen aynı milyarderler, varoluşsal tehdit konusunda uyaran kurumları ve bağımsız üçüncü taraflar olarak sunulan örgütleri de finanse etti. „Bu yüzden insanlar neden diye sormalı“, diyor.

Düzenleme ve ele geçirme

OpenAI'dan Sam Altman ile Anthropic'ten Dario Amodei'nin BM'deki, ikisinin de insanlığa yönelik risklerden söz ettiği konuşmaları için Gebru bunun düzenlemeyi ele geçirme olduğunu söyledi. 2023'te Altman'ın küresel işbirliği istediğini, AI Act'in kabulünden sonra ise Avrupa Birliği'nden çıkma tehdidi savurduğunu hatırlattı. Ona göre Çin'in düzenleyicileri deepfake'ler ve somut sorunlardan söz ediyor.

Hukukçu değil, bu yüzden önerilerinde FTC'nin eski başkanı Lina Khan'a dayanıyor: aldatıcı pazarlama yasalarının uygulanması, eğitim verilerinin kaynağının belgelenmesi ve veriler üzerinde çalışan insanların sömürülmesinin durdurulması.

„stochastic parrots“ ve eleştirisi

Gebru'nun 2021 tarihli „On the Dangers of Stochastic Parrots“ makalesi büyük dil modellerini papağanlara benzetiyor: metnin en olası dizisini anlamadan tekrarlıyorlar. Makaleyi Google önce onayladı, sonra bir kısmı tartışmalı hale geldi ve Gebru şirketten ayrıldı.

Anthropic'in kurucu ortaklarından Jack Clark kısa süre önce X'te bu ifadeyi „memetik olarak dayanıklı bilişsel virüs“e benzetti. Gebru bunun kendisini şaşırtmadığını söylüyor ve araştırmanın eskidiğini reddediyor: „Akıl yürütme yok. Özyinelemeli zekâ da yok“.

Ayrıca Samy Bengio'nun ekibinin 2025 tarihli makalesini hatırlattı: kıyaslama testlerindeki küçük bir değişiklik bile akıl yürütme diye sunulan sonuçları paramparça ediyor. Gerçek değerlendirme zaman gerektirir, bu yüzden şirketler verileri yayımlamalı.

Umudu ne veriyor

Gebru'nun yeni kitabı Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist gelecek yılın başında çıkıyor. Enstitüsü, alternatif bir teknolojik gelecek kuranların toplandığı „AI Resist List“i yürütüyor: „İnsan iradesine ve kolektif güce inanç, sanırım bana umut veren tam da bu“.