AI tədqiqatçıları videolarda: superintellekt səsləndiyi qədər təhlükəlidir

Artifisial intellektin imkanlarını və motivasiyalarını öyrənən qeyri-kommersiya təşkilatı Palisade Research frominside.ai saytında video müsahibələr silsiləsi yayımlayıb. The Verge-ə görə, söhbətlər OpenAI, Google və Anthropic-in hazırkı və keçmiş əməkdaşları ilə yazılıb və onlarda tədqiqatçılar özlərinin yaratdıqları risklər barədə açıq danışır.

Layihəyə Eli Tyre rəhbərlik edib, icraçı prodüser John Steidley, baş redaktor isə Rudy Behrens olub. Saytı Lightcone Infrastructure qurub.

Məhv olma ehtimalı və nəzarət problemi

OpenAI və Google DeepMind-ın keçmiş əməkdaşı Geoffrey Irving bildirir ki, onun qiymətləndirməsinə görə insanlığın məhv olma şansı sikkə atmağa bərabərdir. Google DeepMind tədqiqatçısı Neel Nanda-ya görə ehtimal ən azı 10%-dir və bu inanılmaz dərəcədə yüksək göstəricidir. OpenAI-ın keçmiş tədqiqatçısı Daniel Kokotajlo deyir ki, superintellekt tanrı kimi güclü olacaq və onu necə idarə etməyi heç kim bilmir, buna görə də onun yaradılması yolverilməzdir.

Niyə təhlükəli hesab etdikləri şey üzərində işləyirlər

Videoların bir hissəsi suallara cavab verir: bütün bunlar yalnız marketinqdirmi və insan niyə özünün mümkün fəlakət mənbəyi saydığı layihədə qalır. Google əməkdaşı Mary Phuong deyir ki, onun sözləri şübhə ilə qəbul edilməlidir, çünki laboratoriya ona maaş ödəyir. Nanda isə izah edir ki, işindən ayrılardı, əgər işinin bu riskləri azaltdığına inanmasaydı, amma şirkətlər onun getməsinə görə sistemlərin yaradılmasını dayandırmayacaq.

Niyə bu indi vacibdir

Videolar OpenAI-ın flaqman modeli Astra-nı təhlükəsizliyə görə buraxılışdan əvvəl dayandırdığı və əvəzində ucuz GPT-6.1 Sol-u buraxdığı həmin həftə yayımlanıb; bu o deməkdir ki, laboratoriyalar ən güclü sistemlərinin buraxılması riskini özləri də qəbul edirlər.

Layihənin özü vahid həll təklif etmir və oxucuya sahənin daha təmsilçi mənzərəsini almaq üçün AI Impacts tədqiqatçılarının sorğusuna baxmağı məsləhət görür.