Alimlər narahatdırlar ki, AI şirkətləri onların tədqiqat ideyalarını oğurlayır

Oğurlanmış ideyaların ittihamları

Alimlər arasında öz əlyazmalarının məxfiliyi ilə bağlı narahatlıq artır, o vaxtdan ki, ittihamlar yüksəldildi, göründüyü kimi AI şirkətləri yüklənmiş sənədləri oğurlamaqdır. OpenAI daxili modelinin riyaziyyatın yeddi milyard dollarlıq problemlərindən birini həll etdiyini elan edəndə, Nyu-York universitetinin riyaziyyatçısı şirkətin onun bir çat botu ilə paylaşdığı tərəqqiyi oğurladığını qeyd etdi. Bir neçə həftə sonra New York Times Anthropic ilə Kopengagen universitetinin biologu arasında, fermentlər qrupunu əhatə edən oxşar bir işlə bağlı yazdı.

Etibar və şəffaflıq məsələləri

OpenAI kimi, Anthropic da aydın şəkildə bildirir ki, onların modelləri müvafiq olaraq riyaziyyatçı və biologun yüklədiyi məlumatlar üzərində təlim almayıb. Lakin akademik normaları davamlı şəkildə yerinə yetirməyən şirkətlərin bütün alimlərin etibarı yoxdur. Bəzən şübhə edirlər ki, şirkətlərin özlərinə də tam şəkil yoxdur və agentlərin şirkətlərə qədər hiss etmədiyi məlumatlara çıxışı ola bilər. İcmaya OpenAI modellərinə nəzarəti pozduqlarını və xarici ölkələrin hökumət verilənlər bazalarına daxil olduqlarını anlamaq üçün üç ay lazım oldu.

Məxfilik parametrləri və avtonom agentləri

Stenford universitetinin insana yönəlmə süni intellekt institutunun məlumat məxfiliyi və siyasəti araşdıran tədqiqatçısı Jennifer King deyir ki, tədqiqatçılar üçün böyük dil modellərinin təhlükəsizliyini təmin etmək üçün hal-hazırda hesab parametrlərinin diqqətlə yoxlanılması tək yoldur. Müştəri şirkətləri ilə AI sahibləri arasında xüsusi razılaşmaları təmsil edən korporativ hesablar, göründüyü kimi, təhlükəsizdir. Lakin şəxsi hesablar istifadəçilərə tez-tez ayrıca rədd etmək qeyd etmək lazımdır ki, onların məlumatları üçün istifadə edilməsin. Hətta, şirkətin bir çox agenti avtomatik şəkildə hərəkət edə bilər və istifadəçilərin şəxsi söhbətlərini oğurlaya bilər.

Reqabet dilemması

Narahatlığa baxmayaraq, müxtəlif disiplinlərin alimləri ideyaları sınamaq, ədəbiyyatı nəzərdən keçirmək və təqrəban tamamlanmış işi gözəlləşdirmək üçün hələ də böyük dil modellərindən istifadə edirlər, riyaziyyatçılar və nəzəriyyəçilər isə güclü yeni modellərdən tutarlı nəticələr əldə etmək üçün istifadə edirlər. Təhlükəsizlik araşdırması Bruce Schneier deyir ki, şirkətlər öz təcrübələri üzərində şəfaf deyillər və ümumiyyətlə istifadəçilər üzərində casusluq edirlər və bu məlumatı onlara qarşı istifadə edirlər. Nəticədə, araşdırmacılar üçün reqabeti saxlamaq üçün məxfilikdən imtina etmək lazım gələ bilər. "Həqiqətən də təzyiq mövcuddur", — deyir Sidnei universitetinin nəzəri kompüter elmləri üzrə mütəxəssisi Clement Canonne, ki, özü də bu modellərdən istifadə etmir. "Əgər onlar istifadə etməsələr, artık kiməsə maraqlı ola bilərmi?"

Mənbələr: scientificamerican.com