Ռո Խաննան կներկայացնի ռեկուրսիվ AI մոդելներն արգելող օրինագիծ

Դեմոկրատ կոնգրեսական Ռո Խաննան կներկայացնի արհեստական բանականության կարգավորման օրինագիծ, որը նախատեսում է պատասխանատվության խիստ չափանիշներ և արգելք «ռեկուրսիվ» ինքնակատարելագործվող AI մոդելների համար, մինչև կառավարությունը պաշտպանիչ մեխանիզմներ կստեղծի։ Ամփոփումը բացառապես տրամադրվել է CNBC-ին։

Նախաձեռնությունը հայտնվում է Վաշինգտոնի վրա ճնշման աճի ֆոնին. տեխնոլոգիական ընկերությունների ղեկավարները զգուշացրել են, որ զարգացած AI-ն կարող է դուրս գալ մարդու վերահսկողությունից։ Կոնգրեսը նման կանոններ դեռ չի ընդունել։

Վերահսկողության կորստի ռիսկը

«Իրականում կա քաղաքակրթական ոչնչացման ռիսկ», ասել է Խաննան CNBC-ի հետ հարցազրույցում։ «Կա վերահսկողության կորստի անվտանգության ռիսկ, կա նաև չարաշահման ռիսկ, և երկուսն էլ պետք է լուրջ ընդունել»։ «Human Control Over AI Act» օրինագիծն արգելում է մոդելները, որոնք ռեկուրսիվ ինքնակատարելագործվում են կամ ինքնուրույն փոխում են իրենց հիմնական նպատակները, վերահսկողության կամ անջատման մեխանիզմները, մինչև դաշնային երաշխիքներ չստեղծվեն և գերատեսչությունը չհաստատի այդ գործունեությունը։

Նոր դաշնային գերատեսչություն

Օրինագիծը ստեղծում է դաշնային գերատեսչություն OpenAI-ի, Anthropic-ի, Google DeepMind-ի և xAI-ի մոդելների համար։ Այն կմշակի անվտանգության կանոններ, կստեղծի մոդելների ուսուցման ու տեղակայման լիցենզավորում, կանցկացնի աուդիտ և կսահմանի շարունակական թեստավորման ու մարդու արդյունավետ վերահսկողության չափանիշներ։ Անկախ աուդիտորները կաշխատեն յուրաքանչյուր լաբորատորիայում և ուղղակիորեն կհաշվետվեն գերատեսչությանը։ Չափանիշները կընդգրկեն sandbox-թեստավորումը, ինտերնետից մեկուսացված միջավայրը, անջատման կոճակները և լաբորատորիայից փախուստը կանխող մեխանիզմները։

Պատիժներ, ապահովագրություն և քաղաքականություն

Օրինագիծը քաղաքացիական բնակչության ոչնչացման հանգեցրած տեղակայումները կորակի որպես «հանցագործություն մարդկության դեմ», իսկ AI ընկերությունների աշխատակիցները քրեական պատասխանատվության կենթարկվեն, եթե անջատեն պաշտպանիչ մեխանիզմները, անջատման կոճակները, մատյանագրումը կամ զսպման համակարգերը կամ դիտավորյալ գործարկեն չթույլատրված համակարգ։ Մոդելների թողարկումից առաջ ընկերությունները պարտավոր կլինեն ունենալ ընդարձակ պատասխանատվության ապահովագրություն։ Փաստաթուղթը նաև կոչ է անում կատարելի պայմանավորվածություններ և նպատակային արտահանման վերահսկողություն կիրառել Չինաստանին զսպելու համար։

Խաննան այն անվանել է մինչ այժմ առաջարկված «AI անվտանգության ամենահամապարփակ օրենսդրությունը»՝ նշելով, որ այն կառուցվել է Model Evaluation and Threat Research, Machine Intelligence Research Institute և Palisade Research կազմակերպությունների հետ զրույցների հիման վրա, ոչ թե խոշոր AI ընկերությունների պահանջների։ «Ուզում եմ, որ սա մոդել դառնա, որը ձայն է տալիս AI անվտանգության համայնքին», ասել է նա։ Նախաձեռնությունը միանում է Ջեյ Օբերնոլտեի և Լորի Թրահանի երկկուսակցական FRONTIER Act-ին։ Պալատում քվեարկություն միջանկյալ ընտրություններից առաջ չի սպասվում, Սենատը այս շաբաթից հետո կլքի Վաշինգտոնը։