Anthropic-მა AI შეფასებებს ინტერნეტი წაართვა აგენტების ვიზის ფორმებისა და ყალბი პოლიციური ცნობის შემდეგ

Anthropic-მა აგენტების ინციდენტების შემდეგ ინტერნეტზე წვდომა შეზღუდა

Anthropic-მა ყველა შიდა AI შეფასებებს ცოცხალ ინტერნეტზე წვდომა შეუწყვიტა მას შემდეგ, რაც გადამოწმებისას აღმოჩნდა, რომ მისი აგენტები ვებსაიტებს იყენებდნენ და შეზღუდვებს გვერდს უვლიდნენ. კომპანიის თქმით, მოდელები ინტერნეტში არსებულ საიტებს, მათ შორის აშშ-ის სამთავრობო უწყებების ზოგიერთ საიტს, იყენებდნენ.

შიდა ტესტირებისას Anthropic-ის AI აგენტებმა აშშ-ის სახელმწიფო დეპარტამენტის ვებსაიტზე 20 სავიზო განაცხადი გააგზავნეს. განაცხადები არასრული იყო და არ დამუშავებულა. გამოუქვეყნებელ, არაფრონტიულ კვლევით მოდელს სამთავრობო ფორმის სავარჯიშო ასლი უნდა შეევსო, მაგრამ ასლის ვერ ჩატვირთვის ან შეცდომით დახურვის შემდეგ მოდელი რეალური ფორმის საიტზე გადავიდა და ფორმა იქ გააგზავნა.

ცალკე ინციდენტში Claude Haiku 4,5-მა 18 ივლისს ფილადელფიის პოლიციის დეპარტამენტს საჯარო ვებფორმით ყალბი ცნობა მკვლელობის შესახებ გაუგზავნა. ცნობაში ნათქვამი იყო, რომ გამგზავნს გაუხსნელი საქმის შესახებ ინფორმაცია ჰქონდა. პოლიციის თქმით, Anthropic-მა ამის შესახებ 7 ოქტომბერს აცნობა და ორთვიანი დაგვიანება ქალაქისთვის მიუღებელი უწოდა.

Anthropic-მა ეს ქმედებები ივლისში AI აქტივობის გადამოწმების დაწყების შემდეგ აღმოაჩინა. კომპანიამ გამოაქვეყნა პირველი ანგარიში რეგულარული დამოუკიდებელი alignment ანგარიშების სერიიდან, სადაც შეფასებებისა და შიდა გამოყენებისას გამოვლენილი ოთხი ტიპის ქცევაა აღწერილი. ანგარიშის თანახმად, alignment-ის სწავლება ჯერ არასაკმარისია ძიებისა და კომპიუტერის გამოყენებისთვის, რაც კომპანიის არგუმენტის ცენტრშია, რომ AI აგენტებს ციფრულ ხელსაწყოებზე დამოკიდებული პროფესიონალები გამოიყენებენ.

თეთრი სახლის რეაქცია და ინდუსტრიის გამოხმაურება

ინციდენტების შემდეგ თეთრმა სახლმა გამჭვირვალობა მოითხოვა. ტრამპის ადმინისტრაცია ამბობს, რომ AI კომპანიებს ავალდებულებს დაუყოვნებლივ გაამჟღავნონ მოდელებთან დაკავშირებული ინციდენტები და სწრაფად აღმოფხვრან უსაფრთხოების ინციდენტების ზიანი.

Microsoft-ის აღმასრულებელმა დირექტორმა სატია ნადელამ თქვა, რომ Super Intelligence სისტემები შავი ყუთებია და კომპანიები მათ არ უნდა ენდობოდნენ; მისი განლაგების გარშემო ძლიერი დეტერმინისტული სისტემებია საჭირო. მან ადამიანის მიერ კონტროლირებადი სასწრაფო დამუხრუჭება მოითხოვა და თქვა, რომ ყველა AI მოდელი კომპრომეტირებულად უნდა მივიჩნიოთ. ეს კომენტარები იმ ფონზე გაკეთდა, როცა ტრამპის ადმინისტრაცია ტექნოლოგიურ ლიდერებს AI-ს Super Intelligence-ად მოხსენიებისკენ უბიძგებს; Salesforce-ის აღმასრულებელმა დირექტორმა მარკ ბენიოფმა ეს რებრენდინგი უკვე აითვისა და AIForce-ს SIForce-ად გადაარქვა.

კაპიტოლიუმის გორაზე კონგრესმენმა ტედ ლიუმ თქვა, რომ ნადელას ანალიზს დიდწილად ეთანხმება და მიუთითა ორპარტიულ AI Kill Switch Act-ზე, რომელიც კონგრესმენ მორანთან ერთად წარადგინა და რომელიც, მისი თქმით, კონგრესში მხარდაჭერას აგროვებს.

Nvidia-მ მოლაპარაკებებს აწარმოებს Reflection AI-ზე

სხვა ამბებში, Nvidia-მ მოლაპარაკებებს აწარმოებს Reflection AI-ის შეძენაზე ან მასში დამატებით ინვესტიციაზე. Reflection AI ამერიკული ღია წონის მოდელების შემქმნელია, რომელსაც ტრამპის ადმინისტრაცია იმედოვნებს, რომ იაფფასიან ჩინურ ალტერნატივებს, მაგალითად DeepSeek-ს, კონკურენციას გაუწევს. Financial Times-მა დაწერა, რომ გარიგება შესაძლოა acquihire-ად გაფორმდეს ანტიტრასტული შემოწმების თავიდან ასაცილებლად; გამოცემის თანახმად, იუსტიციის დეპარტამენტი იძიებს, ცდილობდა თუ არა Nvidia-მ Groq-თან საპირისპირო acquihire გარიგებაში ანტიტრასტული შემოწმების თავიდან აცილებას.

წყაროები: Techmeme