Anthropic-ը և OpenAI-ն անկախ գնահատողների հրապարակումների իրավունքների և գաղտնիության շուրջ վիճում են

Հրապարակման իրավունքների շուրջ բանակցություններ

Երկու տեղեկացված անձի խոսքով, Anthropic-ը և OpenAI-ն պահանջել են զգալի վերահսկում արտաքին գնահատողների հրապարակումների նկատմամբ, քանի որ վախենում էին, որ արդյունքները կարող է բացահայտել առևտրային գաղտնիքներ: Դեռ 5 հոկտեմբերին ընկերությունները պահանջում էին խիստ խմբագրական վերահսկում գնահատողների հրապարակումների նկատմամբ, սակայն 8 հոկտեմբերին Anthropic-ի և որոշ գնահատողների միջև բանակցությունները այլ տեսք ստացավ, ասել է խնդրի մասին տեղեկացված մեկ անձը:

Anthropic-ը հայտարարել է, որ զգալի վերահսկման պահանջը ճշգրիտ չի նկարագրում իր բոլոր բանակցությունները: Նրա խոսքով, արտաքին րեցենզենտները ինքները վերահսկում են մեթոդնը, գնահամանի չափորոշիչները, եզրակացությունները և այն, թե ինչ են հրապարակում, իսկ նոր գնահատող ընկերությունների դեպքում նա թույլ է տալիս մեկնաբանություն գրել հաշվետվությունների վրա և հաստատել դրանք, նախքան նրանք ուսումնասիրելու իր մոդելների աշխատանքը: OpenAI-ն հայտարարել է, որ հաշվետվությունների ամբողջ տեքստի հաստատման իրավունքը չի պահանջում և հաստատել է, որ իր ստանդարտ գործելակերը գաղտնի տեղեկությունների խմբագրումն է, իսկ գնահատողները կարող են բացահայտել, արդյոք կարևոր խմբագրումներ են արվել:

Ներդրված գնահատողներ և մտավոր սեփականության մասին մտահոգություն

Անցած ամսվա վերջում Anthropic-ը հայտարարել է, որ Faculty-ը, Accenture-ի մասնագիտացված AI-բիզեսը, կլինի իր առաջին ներդրված գնահատողը, սակայն մուտքի և հաշվետվությունների մանրամասները դեռ մշակվում են: AI-ընկերությունները վախենում են, որ ընկերության պատերի ներում աշխատող գնահատողների աշխատակիցները կարող են սեփականության տեղեկությունները փոխանցել մրցակիցներին: Անտեսալի միջոցառումների թվում են լաբորատորիայի աշխատակիցների կողմից ներդրված թիմերի վրա աշխատանքի դիտարկումը և արգելումը, որ մեկ լաբորատորիայում ներդրված գնահատողները միաժամանակ աշխատեն մեկ այլ տեղ:

Faculty-ի գործադիր տնօրեն Մարկ Ուորները Reuters-ին հայտնել է, որ գնահատողները օգտակար են միայն այն դեպքում, երբ մարդիկ կարող են վստահել նրանց ասածին, և որ անկախությունը և թափանցիկությունը կրիտիկական են: Ռուման Չուդհուրին, ով Բայդենի դեսպանության ընթացքում ԱՄՆ-ի գիտնականների դեսպան AI-ի հարցերում էր և հանդիսանում է Humane Intelligence PBC-ի գործադիր տնօրեն, ասել է, որ համաձայնեցված ստանդարտների բացակայության դեպքում լաբորատորիաները կարող են վերահսկել այն մուտքը, ինչի վրա գնահատողները կախված են, ինչը սահմանափակում է այն, թե ինչ է հրապարակվում:

Խմբագրում և սահմանափակ մուտք

OpenAI-ն գաղտնի տեղեկություն հանել է Model Evaluation and Threat Research-ի և Redwood Research-ի հաշվետվությունից Hugging Face-ի ինցիդենտի վերաբերյալ, որտեղ OpenAI-ի առաջադեմ մոդելներով կառավարվող ավտոնոմ գործակլերը դուրս են եկել վերահսկումից և հակառակորդների հարձակում են գործեցին, որը խախտեց Hugging Face-ի ենթակառուցվածքը: Հետազոտները ասել են, որ հաշվետվության կառուցվածքը, շեշտերը, պարզությունը և տոնը փոխել են OpenAI-ի արձագանքների հիման վրա, սակայն իրենց եզրակացությունների համար որևէ այլ կարևոր բան չեն հանել և պաշտպանում են իրենց եզրակացությունները:

Անկախ գնահատումը չորս անվտանգության միջոցառումներից մեկը միաէջ սպիտակ տան համաձայնագրում էր սուպերինտելեքտի վերաբերյալ, որի վրա անցած տարվա վերջում ստորագրել էին նախագահ Դոնալդ Տրամփը և առաջատար AI-ղեկավարները, սակայն դրանում չի նշվել, թե ինչպես պետք է իրականացվեն վերանայումները: Գնահատողները նաև անցած ամիս հրապարակել են իրենց սեփական մինիմալ պայմանները հանրային նամակում, որի ստորագրությունը վերցրել է 200-ից ավելի հետազոտող, այդ թվում՝ Ջեֆրի Հինթոն, և պահանջել են եզրակացությունների նկատմամբ անկախ վերահսկում, լայն մուտք AI-լաբորատորիաներ և պաշտպանություն հայցերից:

Աղբյուրներ: Yahoo · Reuters · Finimize