AlphaGo-nun avtoru Deyd Sileri superintellektin yaradıb Ineffable Intelligence-i təsis edir

Yeni perspektiv gücləndirilmiş öyrənmə üzərində

Deyd Sileri, onun AlphaGo proqramı 2016-cı ildə Go oyununu qalib gəldiyi, yeni şirkət Ineffable Intelligence-i təsis etdi. Startap superintellekti gücləndirilmiş öyrənmə ilə qurur: modellər yeni bacarıqları cəhd və səhv üsuluyla qazanıb. Məqsəd „super-öyrənənlər“, onlar insanları çox sahədə üstün gəlir.

Strategiya şirkəti sənayenin aksəriyyətdən ayırır, çünki başqaları superintlekti böyük dil modellərinin artımı ilə axtarır. Sileri diyir ki, bu yol uğursuzdur. "Neçə də əla olsa LLM-lər, onlar insan intellektindən öyrənir, özünü yaratmaqdan deyil," deyib WIRED-a bildib. "Missiya superintellektlə birinci kontaktetdir."

İnsan məlumatları məhdud yanacaq kimi

Siliyin fikrinə görə, insan məlumatları üzərində öyrənmə hədlərə malikdir. "İnsan məlumatları məhdud yanacaqa bənzəyir, bu da bize əla qısa yol verdi," deyir o. "Özü-özünə öyrənən sistemlər yenilənən yanacaqdır, heç kəs olmayan öyrənmə, hüdudlülüksüz."

LLM-yen Novusunun zəifliyini Sileri fikri eksperiment ilə göstərir: dil modelinin dünyada olduğunu, ki Yer yuvarlaqdır. Real dünya ilə əlaqə yoxdur, o yuvarlaq Yerinovasiz qalır, hətta kod yaxşılasa. Dünyanı özü öyrənən AI isə real kəşflər edə bilər. Bu günkü AI-ni Darwin biologiyasına bənzəyir.

Simulyasiyalar, təhlükəsizlik və maliyyələşdirilmə

Əsas texniki çətinlik qapalı dünyalardan, kimi Go, real dünya mürəkkəbliyinə keçmədir. Siliyin qolu ilə cavab AI agentlərinin simulyasiyaları Yerləşdirməkdədir, onlar maqsədləri və bir-biri ilə əməkdaşlığı öyrənir. Detalları o açmadı.

Yanlaşım alinment problemini də qaplayır: simulyasiyalardakı agentlər üzərində müşahidə ilə tədqiqatçılar başqalarının, o cümlədən az intellektli sistemaların, qarşısındakı davranışını görürlər. Lightspeed Ventures-in ortağı Ravi Mhatre təhlükəsizlikdə Silvəri ağır sualırdı və inandı: metod alinmentli AI-yə yaxşı yoldur, çünki az insanağır davranışına asılıdır.

Ineffable Intelligence 1,1 milliard dollar birinci rounda 5,1 milliard dollarlıq dəyərləndirmə ilə cəlb etdi, bu Avropa AI standartlarına görə tha Yılmaz məbləğdir. Silvər Google DeepMind-dan və digər nümayişli laboratoriyalardan top tədqiqatçılar cəlb etdi və şərti qoydu ki, hissədən alınan bütün pulu yüksək təsirlilikli xeyriyyə təşkilatlarına verir.

Xüsusi reputasiya

Silvərin keçmiş nailəşdirilmələri startupa müzakirə olmaz güvən verir. Onun mentoru Rich Sutton Andrew Barto ilə birlikdə 2025-ci il Turing mükafatını gücləndirilmiş öyrənmə ilk algoritmləri üçün qazandı. Sahə bu gün LLM-lərə hamilə olub, amma gücləndirilmiş öyrənmə hələ də vacibdir: o chatbot cavablarını insan geri əlaqəsi ilə formalızlaşıb, riyaziyyatda və proqramlaşdırmada progress mümkün etdirdi.

Sequoia Capital-in Sonya Huang, startapın investor, deyir ki, həqiqətən fundamental töhfə AI-da az insan var və Silvər onlardan biridir. Andrew Dai, ona Google DeepMind-də işlədiyi, onun ideyalarını və idarəetmə stilini qiymətləndirir: o başqalarını fikirini hörmət edir və tədqiqatçılara azadlıq verir. Silvərin özü üçün əsas elmdir. "Müqəddəs elmin baxış nöqtəsindən bu ən mühüm elm missiyasıdır, ki burada iştirak etmək olar," dedi o.

Mənbələr: Wired · Financial Times · Techmeme