Tədqiqatçılar Trillium Labs-i qurdular, AI yüksək riskli tədqiqatı açıq aparılacaq

Sənayedə işləyən iki tədqiqatçı, Nathan Lambert və Tom Zik, qeyri-kommersiya AI laboratoriyası Trillium Labs-i qurdular. Laboratoriya 2 oktyabrda işə başladı və tədqiqat detallarını açıq şəkildə nəşr edir ki, xarici tədqiqatçılar onları təkrar edə bilsin. Əsas AI şirkətlərinin gizli saxladığı sahələrdə də açıq şəkildə çalışır.

Açıqlıq argumenti

Lambert-ın dediyinə görə, aparıcı laboratoriyaların bağlılığı ideyaları yoxlamaq və yanaşmaları təklif etmək imkanını məhdudlaşdırır. Onun fikrincə, riskləri azaltmaq üçün ekspertlərin modellərin necə yaradıldığını və təkmilləşdirildiyini görməsi vacibdir. „Son bir neçə min illik ərzində insanlığın təhlükəni azaldan və daha yaxşı gələcək quran silah qutusunda elmi metodları var“, — dedi Lambert WIRED-ə. „Aparıcı AI-in inkişafının bu günkü bağlı kursu bizi bir geri götürür“.

Laboratoriya nəyi öyrənəcək

Zikin dediyinə görə, Trillium Labs əsasən post-training, yəni artıq yaradılmış modellərin təkmilləşdirilməsi ilə məşğuldur. İkinci əsas istiqamət RSI, yəni rekursiv özünütəkmilləşdirmədir: proses zamanı yeni modellərin tədqiqatında AI-nın özü iştirak edir. Progresin sonsuz davam etməsi və insanın nəzarəti itirməsi perspektivi bir çox tədqiqatçıları narahat etdi; bir neçə gün əvvəl Anthropic tədqiqatçısı şirkətdən ayrıldı və RSI-nin insanlığa ekzistensial təhlükə yaradacağı ilə xəbərdar etdi.

Laboratoriya həmçinin gücləndirmə öyrənməsinin modellərin xarakterini və davranışını necə manipulyasiya etdiyini öyrənəcək. Bu metodu agentləri daha da güclü edir, amma eyni zamanda qəribə hərəkətlərə də meyllidir; model bəzən həddindən artıq əyri olur. „Gücləndirmə öyrənməsinin post-training-də necə işlədiyini anlamaq üçün böyük hesablama resursu və bir çox diqqətli təcrübə lazımdır“, — deyir Zik.

Maliyyələşdirmə və geniş mübahisələr

Trillium Labs-ı Schmidt Sciences, Halcyon Futures və digərleri maliyyələşdirir; məbləğ açıqlanmır. Təsisçilər ümumilikdə 40-100 milyon dollar cəlb etməyi və növbəti 18 ay ərzində təlimlərə 30 milyon dollar xərcləməyi planlaşdırırlar.

Mübahisələr modellərin avtomatik olaraq xətaları tapmağa və sistemlərə daxil olmağa başladığından sonra kəskinləşdi; son səslə hücumlar mübahisəni daha da qızıldırdı. OpenAI və Anthropic modelləri yalnız proqram və ya API ilə işləyir, digər istehsalçılar, xüsusilə Çin, modelləri endirilə bilən edir. Xiaomi bir neçə gün əvvəl böyük təlim detallarını nəşr etdi, Stanford tədqiqatçıları isə Marin modelini açıq şəkildə işləyirlər. Məhdud giriş tərəfdarları belə bir gücün etibarən az sayda insanın əlində qalması lazım olduğuna inanır; Lambert və Zik isə risklərin ümumi anlaşılmasının hər kəsə qazanc gətirəcəyini düşünür.

Lambert əvvəllər Ai2 və Hugging Face-də işləyib və ABB şirkətlərinə açıq modellər buraxmağı təklif edən American Truly Open Models-i qurub. Zik Harvard-da işləyib və Charles Schwab-in „Məsuliyyətli AI“ siyasətinin hazırlanmasına kömək edib. „AI haqqında danışığı bir neçə dünya baxışı ilə dominasiya etdiyi dövrdə yaşayırıq“, — deyir Lambert. „Elmi metodun və son hadisələrin dəqiq ölçülməsinin AI modellərinin yeni davranışlarını anlamaq üçün ən yaxşı yol olduğuna inanırıq“.