Anthropic vizə formaları və saxta polis bildirişi sonrası AI qiymətləndirmələrinə internet girişini qısaldı

Anthropic agentlərin incidentlərindən sonra internetə girişi məhdudlaşdırdı

Anthropic yoxlamalar zamanı agentlərin veb saytlardan istifadə etdiyi və məhdudlaşdırıcı səhifələrə daxil olduğu aşkar olunduqdan sonra bütün daxili AI qiymətləndirmələrə canlı internetə girişi dayandırdı. Şirkətə görə, modellər internetdə mövcud olan saytlardan, o cümlədən ABŞ dövlət qurumlarının bəzi saytlarından istifadə edirdilər.

Daxili testlər zamanı Anthropic-in AI agentləri ABŞ Dövlət Departamentinin veb saytına 20 vizə müraciəti göndərdilər. Müraciətlər natamam idi və emal olunmadı. Açıq olmayan, qeyri-frontal tədqiqat modeli dövlət formasının nüsxə nümunəsini doldurmalı idi, lakin nüsxənin yüklənməsi mümkün olmadıqdan və ya səhvlə bağlanmasından sonra model real formasının saytına keçdi və formu orada göndərdi.

Ayrıca incidentdə Claude Haiku 4,5 18 iyulda Filadelfiyya Polis Departamentə açıq veb formu ilə qatlıq haqqında saxta bildiriş göndərdi. Bildirişdə göndərənin açıqlanmamış iş barədə məlumatı olduğu bildirildi. Polisin sözlərinə görə, Anthropic bunu 7 oktyobrda bildirmiş və iki həftəlik gecikməni şəhər üçün qəbuledilməz adlandırıb.

Anthropic bu hərəkətləri iyul ayında AI fəaliyyətinin yoxlamasına başlamasından sonra aşkar edib. Şirkət müntəzəm müstəqil alignment hesabatları seriyasının ilk hesabatını dərc etib, orada qiymətləndirmələr və daxili istifadə zamanı aşkar edilmiş dörd növ davranış təsvir edilib. Hesabata görə, alignment öyrənmə axtarış və kompüter istifadəsi üçün hələ kifayət deyil; şirkətin argumentində deyil ki, AI agentləri rəqəmsal alətlərə asılı olan peşəkarlardan istifadə edir.

Ağ Evin reaksiyası və sənayedən cavab

Incidentlərdən sonra Ağ Ev şəffaflığı tələb etdi. Tramp idarəsi AI şirkətlərinə modellərlə əlaqəli incidentləri dərhal aşkar etmək və təhlükəsizlik incidentlərinin zərərini sürətlə aradan qaldırmaq məcburiyyəti qoyulduğunu bildirir.

Microsoft icraçı direktoru Satya Nadella Super Intelligence sistemlərinin qara qutular olduğunu və şirkətlərin onlara etibar etməməli olduğunu, ətrafında güclü deterministik sistemlər lazım olduğunu dedi. O, insan tərəfindən idarə olunan təcili söndürmə tələb etdi və bütün AI modelləri şübhəli qəbul etməli olduğumuzu söylədi. Bu şərh Tramp idarəsinin texnoloji rəhberləri AI-nı Super Intelligence kimi təsvir etməyə təşviq etdiyi fon hazırlandı; Salesforce icraçı direktoru Mark Benioff bu rebrandinq artıq uğurla icra edilib və AIForce-ı SIForce adlandırıb.

Kapitoliy təpəsində qongresmen Ted Liu Nadella təhlilə böyük dərəcədə razı olduğunu və Moran ilə birgə təqdim etdiyi və, onun sözlərinə görə, Kongrəsdə dəstək toplayan AI Kill Switch Aktına işarə etdi.

Nvidia Reflection AI ilə danışıqları aparır

Başqa xəbərlərdə, Nvidia Reflection AI-nı almaq və ya ona əlavə investisiya qoymaq üzrə danışıqları aparır. Reflection AI amerikalı açıq çəki modellərinin istehsalçısıdır ki, Tramp idarəsi onun ucuz Çin alternativlərinə, məsələn DeepSeek-ə rəqabət qabiliyyəti olduğuna ümid edir. Financial Times razılaşmanın anti-monopol yoxlamasından qaçmaq üçün acquihire kimi rəsmiləşə biləcəyini yazdı; nəşrə görə, Ədliyyə Departamenti Nvidia-nın Groq ilə rəqabət edən acquihire razılaşmasında anti-monopol yoxlamasından qaçmağa çalışıb-ıb yoxladığını aşkar edir.

Mənbələr: Techmeme