Anthropic-ը անջատել է Fable 5-ը և Mythos 5-ը՝ ԱՄՆ արտահանման վերահսկման հրահանգից հետո

Anthropic-ը փակել է հասանելիությունը իր երկու մոդելներին՝ Fable 5-ին և Mythos 5-ին, բոլոր հաճախորդների համար՝ ԱՄՆ կառավարությունից արտահանման վերահսկման հրահանգ ստանալուց հետո։ Ընկերության խոսքով՝ հրահանգը հասել է ուրբաթ օրը՝ արևելյան ժամանակով 17:21-ին, և նամակում հստակեցված չի եղել ազգային անվտանգության հիմքը, որի վրա այն հենվում է։

Ինչ էր պահանջում հրահանգը

12 Grams of Carbon տեղեկագրի մեջբերած հայտարարության համաձայն՝ հրահանգը պահանջում էր կասեցնել Fable 5-ի և Mythos 5-ի ցանկացած հասանելիություն ցանկացած օտարերկրյա քաղաքացու համար՝ թե՛ ԱՄՆ-ից դուրս, թե՛ ներսում, ներառյալ Anthropic-ի օտարերկրյա աշխատակիցներին։ Ընկերությունը դա անվանում է անհնարին պահանջ. գործնականում երկու մոդելներն էլ ստիպված են եղել անջատել բոլորի համար։ Anthropic-ի մյուս մոդելները չեն ազդվում։

Anthropic-ի ընկալմամբ՝ կառավարությունը գտնում է, որ հայտնի է դարձել Fable 5-ը շրջանցելու, այսինքն՝ «ջեյլբրեյք» անելու մեթոդ։ Ընկերությունը դիտել է այդ տեխնիկայի ցուցադրությունը, որով բացահայտվել են նախկինում արդեն հայտնի մի քանի աննշան խոցելիություններ, և պնդում է, որ այդ թերությունները բավական պարզ են. այլ հանրամատչելի մոդելներ կարող են գտնել դրանք առանց որևէ շրջանցման։ Նրա խոսքով՝ ցուցադրված կարողությունը «լայնորեն հասանելի է այլ մոդելներում (այդ թվում՝ OpenAI-ի GPT-5.5-ում)» և ամեն օր օգտագործվում է պաշտպանությամբ զբաղվողների կողմից։ Anthropic-ը ենթարկվում է հրահանգին, սակայն չի համաձայնում, որ «նեղ, պոտենցիալ ջեյլբրեյքի հայտնաբերումը պետք է հիմք դառնա հարյուրավոր միլիոնների համար տեղակայված կոմերցիոն մոդելը հետ կանչելու համար»։

Ստվեր որոշման վրա

12 Grams of Carbon-ում theahura կեղծանվամբ հեղինակն իրեն ներկայացնում է որպես մարդ, որը հիմնականում մտահոգված է արհեստական բանականության ռիսկերով, և բացատրում է, թե ինչու են հզոր օպտիմիզատորները վտանգավոր, այդ թվում՝ կորպորացիաները, որոնք օպտիմիզացնում են այն, ինչ չափելի է։ Այնուհետև նա անցնում է քաղաքականությանը. նրա խոսքով՝ Anthropic-ը և գործող վարչակազմը «շատ հայտնի կերպով ընկերներ չեն». ընկերությունը աշխատել է Պաշտպանության նախարարության հետ, որից հետո հրապարակայնորեն հայտարարվել է մատակարարման շղթայի ռիսկ, իսկ Քուշներները մեծ ներդրումներ ունեն OpenAI-ում։ Նա նշում է, որ Fable-ը համարվում է շատ ուժեղ մոդել և անհետանում է սպառողների համար հենց այն ժամանակ, երբ Anthropic-ը պատրաստվում է IPO-ի։

Ինչու են կարևոր ժամանակը և նախադեպը

Ուրբաթ 17:21-ին հրապարակումը հեղինակը կասկածելի է համարում. նրա կարծիքով վատ նորությունները հրապարակում են շուկաների փակվելուց հետո, որպեսզի հանգստյան օրերը կլանեն ցնցումը։ Նա վկայակոչում է հետազոտական The Kobeissi Letter ընկերության հավաքածուն՝ առևտրային ժամերից դուրս արված հայտարարությունների մասին։ Տնտեսությունը ոչ պակաս կարևոր է, քան քաղաքականությունը, գրում է նա. արհեստական բանականության ենթակառուցվածքը, պարտքերը և տվյալների կենտրոնները ենթադրում են, որ հաշվողական ռեսուրսի պահանջարկը կբավարարվի, իսկ կառավարությունը, որը կարող է միակողմանի փակել հասանելիությունը, խարխլում է այդ ենթադրությունը։ Նա ավարտում է Hacker News-ի մեկնաբանությամբ, որն, իր խոսքով, համընկնում է սեփական կարծիքի հետ. գլխավորը ոչ թե լաբորատորիայի պատժվելն է, այլ այն, որ սա կարող է լինել այն սկիզբը, երբ կառավարությունները որոշում են, թե որ հզոր մոդելներից կարող է օգտվել հանրությունը։