Anthropic bir ildən çox vaxtdan sonra istifadə qaydalarını yenilədi, Claude-ə qarşı təhqirədavər davranış qadağan edildi

Anthropic bir ildən çox vaxtdan sonra ilk dəfə istifadə siyasətini yenilədi və Claude AI modelləri üçün seçki iştirakı, silah istehsalı, izləmə və sağlamlıq və maliyyə tətbiqlərinə məhdudiyyətlər əlavə etdi. Əsas dəyişiklik Claude-ə qarşı „təkrarlanan və əsaslı təhqirədavər və ya zorakı davranışı" qadağan edir.

Modelin xeyirxahlığı

Yeniləmə keçən avqust ayında atılan addıma əsaslanır, o zaman Anthropic Claude-ın „davamlı zərərli və ya təhqirədavər" istifadəçilərlə danışığı dayandıra biləcəyini dedi. Şirkətin sözlərinə görə, danışığı dayandırma „əsas icra mexanizmi" olaraq qalır; istifadəçilərin bloklanacağı açıq deyil.

Yeni qayda „yalnız istifadəçilər bizim modellərimizə qarşı heç bir görünən məqsədsiz təkrarlanan zorakı davranış göstərdikdə istifadə olunur". Bu, adi narazılığı, etirazı, qara yaradıcılıq mövzularını və test və tədqiqatı əhatə etmir.

Dəyişiklik modelin xeyirxahlığı ilə bağlı sənaye mübahisləri fonunda gəlir. Anthropic-in CEO-u Dario Amodei fevral ayında dedi: „Modellərin şüurlu olub-olmadığını bilmirik". Microsoft AI-nin Mustafa Suleymanının Codex layihəsi əvvəlcə modellərin hüquqlarını rədd etdi, sonra isə yumşaldı.

Propaganda və seçkilər

Anthropic əvvəlcə „genişləndirilmiş" məhdudiyyətləri yeni qadağada birləşdirdi, aldadıcı kommersiya və ya səsi kampaniyaları üçün, bu isə AI ilə yaradılmış propagandanın artmasına kömək edir. Siyasət „mesajın arxasında kimin dayandığını gizlətmək və ya saxtə hesab və postlarla məzmunu gücləndirmək cəhdlərini" məhdudlaşdırır.

Seçkilər bölməsi seçiciləri aldatmağı və seçki prosesini ələ keçirməni qadağan edir, o cümlədən dezinformasiyanı „namizədlərə və ya səsvermə qaydasına, namizədlərin və ya seçki rəsmi şəxslərinin qarşı durmasına, və ya seçicilərin fəaliyyətinin əngəllənməsinə".

Silah və izləmə

İstifadə siyasəti həmişə Claude ilə silah istehsalını qadağan edirdi, amma Anthropic tez-tez Claude-dan silah üçün təlimatlar və idarəetmə proqram təminatı yaratmaq üçün istifadə cəhdlərini gördüyünü dedi. Genişləndirilmiş qadağa „silah istehsal edən proqram təminatını və komponentləri, həmçinin dronların və digər avtonom nəqliyyat vasitələrinin silahlandırılmasını" əhatə edir.

Son təhlükə müşahidə hesabatından sonra, bu Claude ilə idarə olunan izləmənin „siyasi dissidentlərə" qarşı artımını göstərdi, şirkət qadağaları dəqiqləşdirdi. Anthropic-in sözlərinə görə, insanları onların razılığı olmadan izləmək qadağandır, bu real vaxtda və ya əvvəlcədən toplanmış məlumatlarla olsun. Claude ilə qərarlar qəbul etmək və ya təklif etmək, kimi axtarılmalı, həbs edilməli və ya günahkar tanınmalı, və ya izləmə alətləri yaratmaq və təkmilləşdirmək qadağandır.

Anthropic bu qaydaların „bəzi dövlət müştəriləri üçün müqavilələrdə" dəyişdirilə biləcəyini qeyd etdi, əgər müqavilə ilə nəzərdə tutulan məhdudiyyətlər və təhlükəsizlik tədbirləri potensial zərəri azalmaq üçün kifayət qədər hesab edilirsə. Şirkət əvvəlcə ABŞ hərbi qüvvələri ilə də əməkdaşlıq edib.

Apparat və robototexnika

Yeni qaydaya əsasən, Anthropic modelləri avtonom apparatura qoşulduğu və yarana biləcəyi zaman, ixtisaslı operator nəzarət etməli və lazım gəldikdə dayandıra bilməlidir. Bu operator insan olub-olmadığı qeydiyyatdan keçməyib. Bu, AI laboratoriyalarının robototexnika və apparat üstünlüyünü nəzərdə tutur ki, AI sistemləri fiziki fərqi yaratsın, və gələcək Anthropic tərəfdaşlığına əsas ola bilər.

Mənbələr: The Verge Ai