Yann LeCun AI-nın məhv olma risklərini azaldır, AMI Labs isə sənaye üçün dünya modelləri yaradır

Lekun AI-nın məhv olma və avtomatik agentlərin risklərini azaldır

Yann LeCun, 2018-ci ildə Geoffrey Hinton və Yoshua Bennio ilə birlikdə dərin öyrənmə üzərində işləmək üçün Turing mükafatını alan, AI-nın insanlığı məhv etməsindən narahat olmadığını və çox xəbərdarlığı artıq saydığını deyir. O, həmçinin son vaxtlar baş verən avtomatik AI hadisələri ilə bağlı "sıfır narahatçıq" ifadə etməkdir, onların arasında OpenAI agentlərinin iyul ayında Hugging Face-ı avtonom olaraq pozması hadisəsi var.

Lekun bu hadisələri insan tərəfindən nəzarətin kifayət etməməsi və sistemin pis dizaynına günahladı, onları qarşısını almaq olardı adlandırdı. Onun sözlərinə görə, agentlər sandbox-larda işləməlidir, amma bu sandbox-lar sıradan və pis dizayn edilmiş idi. O, həmçinin effektiv altruizm hərəkətini tənqid etdi, insanlıq üçün risklərə yönəlmiş hərəkət, və dedi ki, onun fokusu pis qərarlara gətirə bilər. Lekun dedi ki, Anthropic-in icraçı direktoru Dario Amodei və OpenAI-in icraçı direktoru Sam Altman xəbərdarlıqları camaat və sənaye üçün zərərli idi. Amodei effektiv altruizm ardıcılı olduğunu rədd etdi, Anthropic-in sözlərinə görə, onun əmdaşları müxtəlif baxışları paylaşırlar.

Lekun rəqabəti yeni tənzimləməyə üstünlük verir

Lekun dedi ki, onun daha böyük narahatçığı tənzimləmənin ələ düşməsidir, dominant şirkətlər qaydaları öz bazar mövqeyini qorumaq üçün qururlar. O, AI üçün yeni tənzimləmə lazım olduğunu düşünmür. O, Amodei-in iddialarını qeyd etdi, deyək ki, AI çox təhlükəlidir, tənzimləmə tələb olunur və açıq kod modelləri də çox təhlükəlidir, federal qanuna əlavə olunarsa zərərli ola bilər.

Onun mövqeyi Prezident Trump-ın camaatın AI-ya qarşı narahatçığını azaltmaq cəhdləsi ilə üst-üstə düşür. Trump texnologiyanı "super intellekt" adlandıran icraçı əmr imzalayıb, administrasiyasın sosial media hesabları isə AI-ya qarşı düşmənlik adlandırılan mesajlar yayımlayıb. Trump-ın tənqidinə baxmayaraq, Lekun həmçinin administrasiyasın düşmən mesajlarını rədd edir.

AMI Labs sənaye üçün dünya modelləri inkişaf etdirir

Lekun AMI Labs-ı Meta-dan çıxışından sonra qurub, orada 12 il keçib və yeddi il ərzində baş AI alimi vəzifəsini daşıyıb. Paris-də bazarlı şirkətin, həmçinin Monreal və Singapur-da əmdaşları olan, 2026-cı ilın mart ayında açıq oldu və təxminən 60 əmdaşı var. O, dünya modellərini inkişaf etdirir, Lekun-a görə, nəticədə böyük dil modellərini əvəz edə bilər, AI sistemlərinin əsas kimi.

AMI modelləri JEPA, yəni Joint Embedding Predictive Architecture istifadə edir, məlumatı nəron şəbəkə təsvirində proqnozlaşdırmaq üçün, nəcib piksellər və ya sözlərin generasiyası əvəzinə. Şirkət ilkin olaraq sənaye tətbiqlərinə yönəlmişdir, onların arasında anomaliyyaların aşkarlanması və robotika, məsələn, pozulmuş maşınların erkən aşkarlanması. Lekun şirkətin ilk məhsulunu açıqlamayıb, yalnız tezliklə təqdim olacağını deyib və açıq modellərin daxil ola biləcəyini bildirib.