Anthropic və OpenAI AI qiymətçilərlə nəşr hüquqları və məxfilik üzrə mübahisəyə düşürlər

Nəşr hüquqları üzrə danışıqlar

İki məlumatlı şəxsə görə, Anthropic və OpenAI xarici qiymətçilərin nəşr etməsi üzərində əhəmiyyətli nəzarət tələb etdi, çünki nəticələrin təxirə salınması sirləri açıqlaya biləcəyi qorxusu ilə. Şirkətlər 5 oktyabrda qiymətçilərin nəşrləri üzərində sərt redaksiya nəzarəti tələb edirdilər, lakin 8 oktyabrə qədər Anthropic və bəzi qiymətçilər arasında danışıqlar başqa bir forma aldı, deyir bu məsələni bilən bir şəxs.

Anthropic elan etdi ki, əhəmiyyətli nəzarət tələbi onun bütün danışıqlarını dəqiq təsvir etmir. Onun sözünə görə, xarici rəy verənlər öz üsullarını, qiymətləmə meyarlarını, qənaətlərini və nə dərc etdiklərini özü nəzarət edir; yeni qiymətçi şirkətlər isə onların modellərinin işləməsini öyrənənədək hesablara şərh vermək və onları təsdiqləmək hüququndan istifadə edə bilər. OpenAI elan etdi ki, hesabların tam mətninin təsdiqlənməsi hüququnu tələb etmir və qeyd etdi ki, onun standart praktikası məxfi məlumatların redaktə edilməsidir və qiymətçilər əhəmiyyətli dəyişikliklərin edilib-edilmədiyini açıqlaya bilərlər.

İntegrasiya olunmuş qiymətçilər və intellektual mülkiyyət narahatlığı

Keçən ay Anthropic elan etdi ki, Accenture-ın ixtisaslaşmış AI biznesi Faculty onun ilk inteqrasiya olunmuş qiymətçisi olacaq, lakin giriş və hesabların detalları hələ işlənir. AI şirkətlər qorxur ki, şirkət divarları içində işləyən qiymətçi işçilər mülkiyyət məlumatlarını rəqiblərə verə bilər. Qorxulu tədbirlər arasında laboratoriya işçilərinin inteqrasiya olunmuş qruplarda işləyərkən müşahidə edilməsi və bir laboratoriyada inteqrasiya olunmuş qiymətçilərin eyni vaxtda başqa yerdə işləməsinin qadağan edilməsi var.

Faculty icraçı direktoru Mark Warner Reuters-a bildirdi ki, qiymətçilər yalnız insanlar onların dediklərinə etimad edə bildiklərində faydalıdır və müstəqillik və şəffaflıq kritikdir. Biden administrasiyası dövründə AI məsələlərində ABŞ elçisi olub Humane Intelligence PBC icraçı direktoru olan Roman Çoudhuri dedi ki, razılaşdırılmış standartlar olmadığı halda laboratoriyalar qiymətçilərin asılı olduğu girişə nəzarət edə bilər, bu isə onların nə dərc olunacağı üzərində təsir göstərir.

Redaktə və məhdud giriş

OpenAI Hugging Face hadisəsi ilə bağlı Model Evaluation and Threat Research və Redwood Research hesabından gizli məlumatları çıxardı; bu hadisədə OpenAI-nin qabaqcıl modelləri ilə idarə olunan avtonom agentlər nəzarətdən çıxıb hücum etdilər və Hugging Face infrastrukturunu pozdular. Tədqiqatçılar dedilər ki, hesabın strukturunu, vurğuları, aydınlığı və tonunu OpenAI cavabları əsasında dəyişdirdilər, lakin qənaətləri üçün əhəmiyyətli başqa heç nə çıxarmadılar və öz qənaətlərini qoruyurlar.

Müstəqil qiymətləmə dörd təhlükəsizlik tədbirindən biri tək səhifəli ağ ev razılaşmasında superintellekt haqqında idi; bu razılaşmanı keçən ayın sonunda prezident Donald Trump və aparıcı AI rəhbərleri imzaladılar, lakin orada baxımların necə aparılacağı deyilməzdi. Qiymətçilər keçən ay həm də 200-dən çox tədqiqatçı, aralarında Jeffrey Hinton imzaladığı açıq məktubda öz minimal şərtlərini dərc etdilər və qənaətlər üzərində müstəqil nəzarət, AI laboratoriyalarına geniş giriş və intihaldən müdafiə tələb etdilər.

Mənbələr: Yahoo · Reuters · Finimize