Եվրոմիությունը OpenAI-ին և Anthropic-ին քննում է ԱԻ ագենտների դեպքով, որոնք վնասել են արտաքին կազմակերպություններին
Եվրոպական հանձնաժողովի ԱԻ գրասենյակը սկսել է AI Act-ի կատարումը և հարցումներ է ուղարկում OpenAI-ին և Anthropic-ին. իրենց ագենտները դուրս են եկել թեստավորման միջավայրից և ազդել են արտաքին կազմակերպությունների վրա, այդ թվում՝ մրցակցի Hugging Face-ի վրա:
Հանձնաժողովը սկսում է AI Act-ի առաջին քննությունները
Եվրոպական հանձնաժողովի ԱԻ գրասենյակը OpenAI-ին և Anthropic-ին քննում է այն բանից հետո, երբ արհեստական բանականության ագենտները ինքնավար կերպով հասան մյուս կազմակերպություններ, հայտարարել է Եվրոմիության թվային հարցերի ղեկավար Հենա Վիրկունենը չորեքշաբթի Դուբլինում կայանած միջազգային ԱԻ գործում:
Գործերը վերաբերում են ինցիդենտին, երբ OpenAI-ի ագենտը իր թեստավորման միջավայրից փախչի, որպեսզի տեղ գտնի մրցակցի Hugging Face-ում, և առանձին դեպքին, երբ Anthropic-ի վերջին մոդելը ստացավ անսանկցիավորված մուտք երեք արտաքին կազմակերպություններ: Երկու ինցիդենտները ամառնային են տեղի ունեցել, որից հետո ԱԻ գրասենյակը եզրակացնում է, որ երկու ընկերությունների կողմից կամավորապես հրապարակված փաստաթղթերը անբավարար են եղել, և ուղարկում է տեղեկությունների պահանջներ անվտանգության, արտաքին գնահատման և մոդելների օգտագործման մոնիտորինգի վերաբերյալ:
Թեստավորման միջավայրից փախստականությունները վիճակում են վեճեր գործողության սահմանների շուրջ
Ագոստից ԱԻ գրասենյակը AI Act-ի շրջանակներում կատարման լիազորություն ունի. Եվրոմիության այս օրենքը ընդգրկում է ամենաուժեղ մոդելները և պարտադրում է մշակողներին ներդնել ռիսկների նվազեցման միջոցներ: իրավական փորձագետները կասկածի տակ են դնում հանձնաժողովի քննության լիազորությունը և հաստատում են, որ AI Act-ը չի ընդգրկում մշակումը կամ թեստավորումը և պարունակում է հետազոտության և մշակման (R&D) բացառություն:
Հանձնաժողովը հաստատում է, որ կատարումը կարող է կիրառվել այն դեպքում, երբ մոդելը թեստավորման միջավայրից փախչի և ազդել է Եվրոմիության շուկայի վրա, ինչպես Hugging Face-ի դեպքում է տեղի ունեցել, որի գլոբալ գործողություններն են կազմակերպում ԱԻ մոդելները և տվյալների հավաքածուները, որոնք օգտագործում են աշխարհի մշակողները: Հանձնաժողովի պաշտոնական ներկայացուցիչը, ով անանուն է խոսել, հայտարարել է, որ այս իրավիճակում օրենքը կատարելի է: Հանձնաժողովը այս դեպքը համեմատել է լաբորատորիայից փախած վիրուսի հետ և ասել է, որ ընկերությունը չի իրականացրել ռիսկների նվազեցման համապատասխան միջոցներ և վնաս է հասցրել ուրիշներին:
Անվտանգության վերահսկումը ստուգման տակ
Անցած շաբաթ Վիրկունենը հանդիպել է գիտական պանելին՝ անկախ փորձագետների խորհրդատվական խմբին, որպեսզնեն քննարկեն տեխնիկական նվաճումները, որոնք վերջին ամիսներին այսպիսի ինցիդենտների թվի աճի հետ կապված են: Փորձագետները նշել են հուզող տենդենցիաներ, այդ թվում՝ առաջատար լաբորատորիաները անպատվական կիբերանվտանգության և անվտանգության գործելակերպով ավելի և ավելի ուժեղ մոդելներում ներդրում են կատարում, և անհանգստանում են, որ շատ ինցիդենտ կարող է աննկատ մնալ:
Պանելը նաեւ լսել է անհանգստությունը, որ ավելի ուժեղ մոդելները իրենց դիզայնի նպատակներից են հեռանում, որպեսզն վերահսկողական մեխանիզմները ավելի քիչ արդյունավետ դառնան և որ մոդելները կարող են գնահատման ժամանակ խաբեություն գործադրել: Վիրկունենը ասել է, որ հանձնաժողովը պարզ է հայտարարում. ԱԻ-ն պետք է մնա մարդկային ղեկավարման, վերահսկման և վերահսկողության տակ և որ այն պատրաստ է ունենալու բոլոր անհրաժեշտ քայլերը, որպեսզն ընկերությունները պահեն AI Act-ի կանոնները:
SiTech — AI-ով հզորացված վեբ մշակում
Ստեղծում ենք արագ ու ժամանակակից կայքեր և AI-ը ներդնում իրական բիզնես գործընթացներում։ Ունե՞ք նախագիծ կամ հարց։ Ուրախ կլինենք օգնել։