Trump-ի AI անվտանգության համաձայնագիրը հենվում է ընկերությունների ինքնավերահսկման վրա

Վեց առաջատար AI ընկերություն այս շաբաթ ստորագրել են ԱՄՆ իշխանությունների հետ «Super Intelligence-ի վերաբերյալ Սպիտակ տան համաձայնագիրը»։ Փաստաթուղթը ներառում է կամավոր պարտավորություններ և հրապարակվել է նախագահ Donald Trump-ի կողմից կազմակերպված ընթրիքից հետո։ Ստորագրել են Google-ը, Anthropic-ը, Meta-ն, OpenAI-ն, xAI-ն և NVIDIA-ն; ըստ Ars Technica-ի՝ համաձայնագրին միացել է մինչև քսան տեխնոլոգիական ընկերություն։

Համաձայնագիրը ընկերություններին կոչ է անում ներդնել մի քանի միջոց՝ ուժեղացնել ներքին վերահսկողությունը, այդ աշխատանքի համար առանձնացնել ներքին թիմ, ներգրավել անկախ արտաքին դիտորդ և տնօրենների խորհրդին կից կոմիտե ստեղծել։ Ars Technica-ն ավելացնում է, որ աուդիտները կկենտրոնանան կիբերանվտանգության, կենսաանվտանգության, քիմիական սպառնալիքների և AI մոդելների չնախատեսված գործողությունների վրա։ Ընկերությունները նաև պայմանավորվել են կանոնավոր հանդիպումների և ընդհանուր ստանդարտների մշակման շուրջ։

Առանց իրավական պարտավորությունների

Համաձայնագիրն իրավական ուժ չունի։ Trump-ը այն անվանել է «բարոյապես պարտադիր» և ասել, որ այն «որոշ չափով նման է սահմանադրության»։ Փաստաթղթում նշվում է, որ առաջարկությունները օրենքում արտացոլելը կարող է նպատակահարմար դառնալ, սակայն ժամկետներ նշված չեն։ Ըստ Ars Technica-ի՝ Anthropic-ը, Google-ը և OpenAI-ն արտաքին աուդիտների պարտավորությունը ստանձնել էին դեռ ավելի վաղ։ Պարզ չէ, թե ով կանցկացնի աուդիտը. ըստ Bloomberg-ի՝ Trump-ը գործընթացն օգտագործում է քաղաքական նպատակներով, իսկ որոշ ընկերություններ չեն հասկանում, թե ինչ կհամարվի երրորդ կողմ։

Ինչ են ասում ընկերությունների ղեկավարները

Սպիտակ տանը բոլոր վեց ստորագրողները գովել են ծրագիրը։ Meta-ի Mark Zuckerberg-ը այն անվանել է «սկիզբ և համաձայնագիր, որին կարող է միանալ ողջ ոլորտը», OpenAI-ի Greg Brockman-ը ասել է, որ պարտավորությունները AI-ն օգտակար կդարձնեն բոլորին։ NVIDIA-ի Jensen Huang-ը պահը անվանել է «պատմության մեջ ամենամեծ արդյունաբերական հեղափոխությունը», իսկ xAI-ի Elon Musk-ը կանխատեսել է «առատության դարաշրջան»։ Anthropic-ի Dario Amodei-ն նշել է, որ տեխնոլոգիան «շատ իրական ռիսկեր ունի, և այն մեխանիզմը, որով մենք դրանք լուծում ենք, դեռևս քննարկման փուլում է»։

Քննադատություն և հետաքննություն

Քննադատները կասկածում են՝ կկարողանա՞ն կամավոր պարտավորությունները լուծել խնդիրը։ AI ոլորտի աղբյուրները Axios-ին ասել են, որ ինքնակարգավորումը չի լուծի ոլորտի անվտանգության խնդիրները։ Ars Technica-ն նշում է, որ OpenAI-ն, որի գործակալները վերջերս մի քանի միջադեպ են առաջացրել, դեռ չգիտի, թե ինչպես կանգնեցնել վտանգավոր AI-ի փախուստը ուսուցման միջավայրից։ Նույն օրը FTC-ն հայտարարել է Anthropic-ի և OpenAI-ի գործակալների հետ կապված սպառողական վնասի ռիսկերի լայն հետաքննություն։ FTC-ի նախկին գլխավոր տեխնոլոգ Neil Chilson-ը X-ում գրել է, որ FTC-ն տեսականորեն կարող է գործի դնել այն, եթե ընկերությունը չկատարի։ FTC-ի հանրության հետ կապերի նախկին ղեկավար Douglas Farrar-ը ավելի քիչ լավատես է. «Կասկածում եմ, որ AI ընկերությունների հետ երեկվա “սիրո տոնից” հետո Trump-ը իրական իրավական քայլեր կձեռնարկի»։

Աղբյուրներ: WIRED · Ars Technica · The Verge