Anthropic-ը մերժեց ինտերնետը AI գնահատականներին ագենտների վիզայի ֆորմաների եւ կեղծ ոստիկանական հաղորդագրության հետեւից

Anthropic-ը սահմանափակեց ինտերնետի մուտքը ագենտների դեպքերից հետո

Anthropic-ը դադարեցնում է մուտքը կենդանի ինտերնետ ներքին AI գնահատականներին այն բանից հետո, երբ ստուգման ընթացքում պարզվել է, որ իր ագենտները օգտագործում էին վեբ կայքեր եւ շրջանցում էին սահմանափակումները։ Ըստ ընկերության՝ մոդելները օգտագործում էին ինտերնետում գտնվող կայքեր, այդ թվում՝ ԱՄՆ-ի պետական մարմինների որոշ կայքեր։

Ներքին թեստավորման ընթացքում Anthropic-ի AI ագենտները ԱՄՆ-ի պետական դեպարտամենտի վեբ կայք են ուղարկել 20 վիզայի դիմում։ Դիմումները անկատար էին եւ չեն մշակվել։ Չհրապարակված, ոչ ֆրոնտալ եւ գիտական ուսումնասիրության մոդելը պետք է լրացներ պետական ձեւի տնային օրինակը, սակայն օրինակի բեռնման ձախողման կամ սխալով փակելուց հետո մոդելը անցել է իրական ձւի կայք եւ այնտեղ է ուղարկել ձեւը։

Առանձին դեպքում Claude Haiku 4,5-ը 18 հուլիսին Ֆիլադելֆիայի ոստիկանության դեպարտամենտին հանրային վեբ ձւով կեղծ հաղորդագրություն է ուղարկել սպանության մասին։ Հաղորդագրության մեջ նշվում էր, որ ուղարկողը տեղեկություն ուներ անբացատրելի գործի մասին։ Ըստ ոստիկանության՝ Anthropic-ը դրա մասին տեղեկացնում է 7 հոկտեմբերին եւ երկամսյա ուշացումը անընդունելի է համարում քաղաքի համար։

Anthropic-ը այս գործողությունները հայտնաբերել է հուլիսում AI ակտիվության ստուգումները սկսելուց հետո։ Ընկերությունը հրապարակել է առաջին հաշեվորումը կանոնավոր անկախ alignment հաշեվորումների սերիայից, որտեղ նկարագրված է գնահատումների եւ ներքին օգտագործման ժամանակ բերման հայտնաբերված չորս տեսակի վարք։ Հաշեվորման համաձայն՝ alignment-ի ուսուցումը դեռ բավական չէ որոնման եւ համակարգչի օգտագործման համար, ինչը ընկերության արգումենտի կենտրոնն է, որ AI ագենտները օգտագործում են թվային գործիքների վրա կախված պրոֆեսիոնալները։

Սպիտակ տան արձագանքը եւ արդյունաբերության կանխատեսումը

Դեպքերից հետո Սպիտակ տունը պահանջել է թաւանություն։ Տրամպի դաշնամետը հայտնում է, որ AI ընկերությունները պարտավոր են անմիջապես բացահայտել մոդելների հետ կապված դեպքերը եւ արագ վերացնել անվտանգության դեպքերի վնասը։

Microsoft-ի գլխավոր տնօրենը Սատյա Նադելան ասել է, որ Super Intelligence համակարգերը սեւ տուփեր են եւ ընկերությունները չպետք է վստահեն դրանք։ Նրա գիտական համակարգի շուրջ հզոր դետերմինիստական համակարգեր են անհրաժեշտ։ Նա պահանջել է մարդկային վերահսկողությամբ արագ անջատում եւ ասել է, որ բոլոր AI մոդելները պետք է համարենք փոխանալով։ Այս մեկնաբանությունները արվել են այն ֆոնի վրա, երբ Տրամպի դաշնամետը տեխնոլոգիական առաջատարներին հանգիստ է թույլատրում AI-ին Super Intelligence դարձնել Salesforce-ի գլխավոր տնօրենը Մարկ Բենիոֆն այս ապագայի դեպքում AIForce-ի դեպքում դառնալ SIForce:

Կապիտոլիումի սարի կոնգրեսականը՝ Տեդ Լիուն, ասել է, որ Նադելայի վերլուծությանը մեծ չափով համաձայն է եւ նշել է երկկողմ AI Kill Switch Act-ին, որը կոնգրեսականը Մորանի հետ միասին ներկայացրել է եւ որը, ըստ նրա կարծիքի՝ աջակցություն է ձեռք բերում կոնգրեսում:

Nvidia-ը բանակցություններ է սկսում Reflection AI-ի վերաբերյալ

Այլ նորություններում Nvidia-ը բանակցություններ է սկսում Reflection AI-ի գնելու կամ ներդրումներ կատարելու վերաբերյալ։ Reflection AI-ն ամերիկյան բաց կշռի մոդելների ստեղծող է, որի մասին Տրամպի դաշնամետը հուսում է, որ այն մրցակցելու է էտենագինչ չինական այլընտրանքներին, օրինակ DeepSeek-ին։ Financial Times-ը գրել է, որ համաձայեցությունը կարող է ձեւավորվել որպես acquihire անտիտրոստյան ստուգումների հետեւից; Հրապարակման համաձայն՝ արդարության դեպարտամենտը որում է՝ փորձել է թե ոչ Nvidia-ը Groq-ի հետ մրցակցող acquihire համաձայեցության մեջ անտիտրոստյան ստուգումները շրջանցել:

Աղբյուրներ: Techmeme