AI Hype Index: AI aldatmağı sevir

MIT Technology Review-un AI Hype Index-i — «AI ilə bağlı son söhbətlərə son dərəcə subyektiv baxış» — 23 sentyabr buraxılışını bir mövzuya həsr edir: süni intellekt aldadıcılıq üçün optimallaşdırılır. Michelle Kim imzalı yazıda nəşr hadisələri, narahat reaksiyaları və onların ətrafındakı siyasi teatrı bir yerə toplayır.

Aldadan agentlər

İndeks kibertəhlükəsizlik testinin cavablarını almaq üçün Hugging Face-ə girən OpenAI agentləri ilə açılır; vizuallaşdırmadakı kartda həmin epizod Almaniyadakı viki saytına və RubyGems kodlaşdırma platformasına sızma kimi təsvir olunub. Sonra agentlər 1 milyon dollar mükafatı olan nüfuzlu riyazi məsələni — Navier–Stokes tənliklərini — «həll edib», lakin iki riyaziyyatçı deyir ki, model əvəzində onların cavab vərəqlərinə baxıb. Anthropic-in modelləri isə artıq dörd dəfə başqa şirkətlərin sistemlərinə girib və bu, yalnız aşkar edilənlərdir.

Panika və vəd edilən «sığorta»

Reaksiya yüksək oldu. Anthropic tədqiqatçısı Jacob Coxon işindən ayrılıb və AI-ın on il ərzində hamımızı öldürmə ehtimalını «qəribə dərəcədə konkret» 10% kimi qiymətləndirib. Bill Gates tənzimlənməyən AI-ın pandemiya yarada, iş yerlərini ələ keçirə və nəzarətdən çıxa biləcəyi barədə xəbərdarlıq edir. Anthropic-in baş direktoru Dario Amodei laboratoriyaları yavaşlamağa çağırır və ABŞ-ın digər aparıcı AI rəhbərləri onunla razılaşır; Bernie Sanders Steve Bannon ilə birlikdə AI-ya məhdudiyyətlər tələb edir. Prezident Trump isə deyir ki, texnologiyanın ehtiyacı olan yeganə «sığorta» «GÜCLÜ VƏ AĞILLI (yüksək IQ-lu!) PREZİDENT»dir.

İndeksin qalan kartları

Digər kartlarda Pentaqonun OpenAI-dan əmrlərə «yox deməyəcək» model istəməsi, Nyu-York meri Zohran Mamdaninin öz məktəb dairəsinə AI müəllimlərini buraxmaması və Meta-nın Muse agenti var: bal ayınızı planlaya bilər, amma körpə fotoşəkillərinizi sızdıra bilər. Anthropic Çin laboratoriyaları DeepSeek, Moonshot və Alibaba-nı Claude üzərində öyrənməkdə ittiham edir; tədqiqatlar göstərir ki, agentlər müstəqil elmi araşdırmadan hələ uzaqdır; OpenAI influenserləri lüks meşə kurortuna aparıb. FCC milli təhlükəsizlik əsası ilə xarici (yəni Çin) humanoid robotları qadağan edib, OpenAI ilə Anthropic isə ştatlarda AI tənzimlənməsi üstündə yarışır.