Timnit Gebru: AI-dan ekzistensial təhlükə yoxdur, narrativ isə zərərlidir

AI tədqiqatçısı Timnit Gebru deyir ki, AI-nın bəşəriyyətə təhlükə yaradıb-yaratmadığı barədə mübahisələr texnologiyanın real problemlərindən diqqəti yayındırmaq deyil, zərərlidir. WIRED-ın „The Big Interview“ podkastında o, aparıcı Lauren Good-a dedi: „Bu sadəcə yayınma deyil, bu zərərlidir“.

Müsahibə Anthropic-in gənc tədqiqatçısının vəzifəsini tərk edib X-də şirkətdə çoxlarının AI-nı ekzistensial təhlükə hesab etdiyini yazmasından sonra dərc olundu.

Dövri təkrarlanan ritorika

Gebruya görə, Elon Musk və Peter Thiel 2013-cü ildən AI-nın ekzistensial təhlükəsindən danışır və oxşar bəyanatlar hər üç ildən bir qayıdır. O, MIT fiziki Maks Tegmark və Skype-ın həmtəsisçisi, Anthropic-in Series A raundu investoru Yaan Tallinn tərəfindən yaradılan Future of Life Institute-u xatırladı.

Onun sözlərinə görə, Anthropic-in birjaya çıxmasından ən böyük qazancı gözləyən həmin milyarderlər ekzistensial təhlükə barədə xəbərdarlıq edən institutları və müstəqil üçüncü tərəf kimi göstərilən təşkilatları da maliyyələşdirib. „Buna görə insanlar niyə olduğunu soruşmalıdır“, deyir o.

Tənzimləmə və ələ keçirmə

OpenAI-dən Sem Altmanın və Anthropic-dən Dario Amodeinin BMT-dəki çıxışları barədə, burada hər ikisi bəşəriyyət üçün risklərdən danışdı, Gebru bunun tənzimləmənin ələ keçirilməsi olduğunu dedi. O xatırladı ki, 2023-cü ildə Altman qlobal əməkdaşlıq tələb edirdi, AI Act qəbul edildikdən sonra isə Avropa İttifaqından çıxmaqla hədələdi. Çin tənzimləyiciləri, onun sözlərinə görə, dipfeyklər və konkret problemlərdən danışır.

O hüquqşünas deyil, buna görə təkliflərində FTC-nin keçmiş rəhbəri Lina Xana əsaslanır: aldadıcı marketinq qanunlarının tətbiqi, təlim məlumatlarının mənbəyinin sənədləşdirilməsi və məlumatlar üzərində işləyən insanların istismarına son qoyulması.

„stochastic parrots“ və tənqidi

Gebrunun 2021-ci il tarixli „On the Dangers of Stochastic Parrots“ əsəri böyük dil modellərini tutuquşulara bənzədir: onlar mətnin ən ehtimallı ardıcıllığını anlamadan təkrarlayırlar. Google əvvəlcə əsəri təsdiqlədi, sonra bir hissəsi mübahisəli oldu və Gebru şirkətdən ayrıldı.

Anthropic-in həmtəsisçisi Cek Klark qısa müddət əvvəl X-də bu ifadəni „memetik davamlı koqnitiv virus“a bənzətdi. Gebru bunun onu təəccübləndirmədiyini deyir və tədqiqatın köhnəldiyini rədd edir: „Düşünmə yoxdur. Rekursiv intellekt də yoxdur“.

O, həmçinin Samy Benjionun komandasının 2025-ci il tarixli əsərini xatırladı: benchmarklardakı kiçik dəyişiklik belə düşünmə kimi təqdim edilən nəticələri dağıdır. Həqiqi qiymətləndirmə vaxt tələb edir, buna görə şirkətlər məlumatları dərc etməlidir.

Nə ümid verir

Gebrunun yeni kitabı, Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist, gələn ilin əvvəlində çıxır. Onun institutu alternativ texnoloji gələcək yaradanların toplandığı „AI Resist List“i aparır: „İnsan iradəsinə və kollektiv gücə inam, düşünürəm ki, mənə ümid verən elə budur“.