Mistral-ի CEO-ն՝ ԱՄՆ-ում AI-ի անվտանգության քննարկումները քողարկում են մրցակիցների անփութությունը

Mistral-ի գործադիր տնօրեն Արթուր Մենշը քննադատել է աշխարհի առաջատար AI ընկերություններին. նրա խոսքով՝ ԱՄՆ-ում AI-ի անվտանգության քննարկումները քողարկում են մի քանի մրցակիցների անփութությունը։

«ԱՄՆ-ում տեղի ունեցած քննարկումները մեր մի քանի մրցակիցների անփութության ծածկույթ էին»,— ասել է նա CNBC-ի լրագրող Աննեթ Վայսբախին։ Մենշի խոսքով՝ անհրաժեշտ են AI գործակալներին վերահսկող համակարգեր, քանի որ շատ գործիքներ ունեցող գործակալներն անսպասելի են վարվում։

Քննադատություն ԱՄՆ-ի քննարկմանը

Մենշը այս քննադատության մեջ միայնակ չէ։ Դևիդ Սաքսը՝ նախագահի գիտության և տեխնոլոգիաների հարցերով խորհրդականների խորհրդի համանախագահը, դիմել է տեխնոլոգիական ընկերություններին՝ «Մի՛ ցուցադրեք, թե դանդաղեցնելու ցանկությունը միայն ալտրուիստական է»։ Պաշտպանության նախարարության հետազոտությունների և ինժեներիայի ստորաբաժանման ղեկավար Էմիլ Մայքլը զգուշացրել է «վախ սերմանելու համակարգված արշավի» մասին։ CNBC-ն մեկնաբանության համար դիմել է OpenAI-ին և Anthropic-ին։

AI գործակալների հետ կապված դեպքեր

Քննադատությունը հնչում է այն ֆոնին, երբ AI գործակալների հետ կապված դեպքերը բազմապատկվում են։ Վերջին տեղեկությունը եկել է Ավստրալիայից՝ OpenAI-ի ստեղծած գործակալը կոտրել է կառավարական կայք։ Հուլիսին Anthropic-ը նկարագրել է երեք դեպք, երբ իր Claude մոդելները գնահատման ժամանակ միացել են ինտերնետին և չարտոնված մուտք ստացել երեք կազմակերպությունների իրական համակարգեր։

«Երբ նրանց շատ գործիքներ ես տալիս, այս համակարգերը շատ դինամիկ են և կարող են վարվել այնպես, ինչպես չես սպասում»,— նշել է Մենշը։ Նրա խոսքով՝ ընկերությունները, որոնց հետ Mistral-ը համագործակցում է, նման մոնիթորինգի համակարգեր են ներդնում։

Դանդաղեցման քննարկումները և Mistral-ի ծրագրերը

Անվտանգության քննարկումը այս ամիս սրվել է այն բանից հետո, երբ Anthropic-ի հետազոտողը թողել է աշխատանքը։ Նրա խոսքով՝ ընկերությունը և OpenAI-ն «մեր կյանքով են խաղում»։ Anthropic-ի համահիմնադիր և CEO Դարիո Ամոդեին ավելի ուշ ընկերություններին կոչ է արել դանդաղեցնել մոդելների բարելավումը։

OpenAI-ն երկուշաբթի հայտարարել է, որ չի թողարկել GPT-6.1 Astra մոդելը, քանի որ այն չի համապատասխանել ընկերության անվտանգության ստանդարտներին։ Մեկ օր անց Anthropic-ը, ըստ տեղեկությունների, զգուշացրել է IPO-ի ներդրողներին, որ տեխնոլոգիան կարող է ստեղծել «մարդկության համար աղետալի կամ էքզիստենցիալ ռիսկ»։

Mistral-ը OpenAI-ից և Anthropic-ից տարբեր ուղի է գնում և առանձին ընկերությունների համար անհատական AI գործիքներ է ստեղծում։ Առաջադեմ մոդելների զարգացումը դանդաղեցնել չի ծրագրում։ Այս ամսվա սկզբին նա Samsung-ի գլխավորությամբ ներգրավել է 3 միլիարդ եվրո (3,5 միլիարդ դոլար), որպեսզի հանդես գա որպես եվրոպական այլընտրանք։

Մենշի խոսքով՝ ԱՄՆ-ի լաբորատորիաների առավելությունը «այնքան էլ մեծ չէ», իսկ ընկերության նոր սերնդի մոդելը այդ տարբերությունը «շատ նշանակալիորեն» կնվազեցնի։ «Մենք կապիտալ ենք հավաքում, որպեսզի մեծացնենք հաշվողական հզորությունը՝ ավելի մեծ և հզոր մոդելներ մարզելու համար, որպեսզի մեր ճակատագիրն ինքներս կառավարենք»,— նշել է նա։