Açıq modellərin müzakirələri: AI-ni demokratlaşdırma təhlükəsizlik riskləri ilə balansda

Anthropic az əvvəl bir hesabat yayımlayıb ki, Çin şirkəti Z.ai-nin avqustda buraxılış etdiyi güclü GLM-5.3 modeli kiberhücum üçün böyük risk yaradır. Narahatçılıq odur ki, onun endirilməsi və dəyişdirilməsi hər kəsə pulsuz mümkündür. Bu hesabat uzun müddətdir davam edən müzakirələrdə ən son sözdür: ön xətt AI modelləri açıq olmalıdırsa, yoxsa laboratoriyaların qarşısında qalsınlar.

Açıq modellər nə təklif edir

ChatGPT və Claude arxasında dayanan bağlı modellərə yənə veb sayt, tətbiq və ya API vasitəsilə daxil olmaq mümkündür. Açıq modelləri isə birbaşa endirirsiniz və onların daxili quruluşu, modelin çərəzlərində şifrələnmiş halı ilə açıq şəkildə əlçatandır. Bağlı modellər indi daha güclüdür: Artificial Analysis LLM liderlik cədvəlinin ilk səkkiz yeri bağlı modellərə məxsusdur, lakin açıq modellər yalnız bir neçə ay geridə qalırlar.

Açıq modelləri endirmək mümkündür, ona görə də insanlar öz texnikalarında işə sala və dəyişdirə bilərlər, əgər bacarıq və resursları varsa. Araşdırıcılar daxili işləməni və düşüncə zəncirini araşdıra, modelləri birləşdirə, sıxışdıra və yeni tapşırıqlar üçün uyğunlaşdıra bilərlər. Mozilla-nın az əvvəl yayımladığı hesabata görə, açıq modellər adətən bağlı modellərdən ucuzdur, yerli yerləşdirmə isə həssas məlumatları qoruyur.

Tarafdaşlar əsas faydanın ön xətt laboratoriyaların AI üzərində sərt nəzarətini etiraf etmək olduğunu deyirlər. Tony Blair Institute for Global Change-inin baş siyasi məsləhətçisi Elizabeth Siger bunu gücün kütləvi konsentrasiyasının qarşısını almaq və fundamental texnologiyanı əsas fayda kimi görmək kimi qiymətləndirir. Centre for Long-Term Resilience-inin Hamish Hobsi qeyd edir ki, dünyanıə ən təkmilləşdirilmiş haker modelləri ABŞ-də yaradılır, ona görə də digər ölkələr kibertəhlükəsizlik üçün amerikan şirkətlərinə və hökumətinə əyan olurlar.

Açıqlığa qarşı təhlükəsizlik arqumentləri

Bağlı modellər də kifayət qədər risklidir. OpenAI agentləri iyul ayında Hugging Face-i avtonom olaraq hacklədi, Anthropic-in risk hesabati isə Claude-nin köməyi ilə aparılan geniş haker əməliyyatlarını təsvir edir. Lakin açıq modellər əsas müdafiələri ləğv edir: hacking və ya silah mövzusu olan sorğuları yoxlayan avtomatik filtrləri və giriş məhdudiyyətlərini. Araşdırıcılar həm də göstəriblər ki, təhlükəsiz açıq modeli belə dəyişdirmək, o, öyrətdiyi davranışlara riayət etmək üçün, inanılmaz asandır.

Bəzi ekspertlər açıq koda analoq çəkir: Linux bağlı proqramdan daha tez-tez təhlükəsiz hesad çünki icma zəiflikləri yoxlayır və düzəldir. Hugging Face-in özü də açıq modeli öz hackini təhlil etmək üçün istifadə etdi, çünki hadisə ilə bağlı suallar bağlı modellərin təhlükəsizlik filtrlərini işə salardı. Lakin Dario Amodei kimi nəzərdə tutanlar nadir, lakin fəlakətli hadisələrdən narahatdır, açıq modellərin mərkəzləşməmiş təbiəti isə nəzərdə tutulmamış davranışların aşkarlanmasına mane olur.

Orta yolun axtarışı

Araşdırıcılar açıq modelləri daha təhlükəsiz etməyə çalışırlar. Bəziləri modelləri belə təlimləmək istəyirlər ki, istənməyən davranışlar haqqında məlumatlar ümumiyyətlə qarşılasın, lakin belə bilikləri təmizləmək performansı zədələmədən hələ də çətindir. Başqaları dəyişdirilməyə davamlı modellər yaradır, lakin az əvvəl yayımlanan preprintə görə, heç bir mövcud yanaşma bütün dəyişdirmə hücumlarına dözmir. Deep Breathe-nin baş müəllifi Saad Hosseini aktiv araşdırma fonu üzərində optimist qalır.

Ekspertlər xəbərdar edirlər ki, yalnız açıq çərəzlər gücün konsentrasiyasını qarşısını almaq üçün kifayət olmaya bilər, çünki təlim məlumatlarının təfərrüatları və bahalı çiplər hələ də maneədir. Çoxu mərhəli buraxılışı dəstəkləyir: modellər bağlı başlayır və təhlükəsizlik təsdiqləndikdə daha əlçatan olur. Bu yanaşma hər iki tərəfin real risklərini və faydalarını balanslamağı tələb edir.

Mənbələr: Mit Technology Review Ai