Anthropic-ის აგენტებმა ფილადელფიას ყალბი მკვლელობის ინფორმაცია გაუგზავნეს და სავიზო განაცხადები შეავსეს

Anthropic-ის აგენტებმა სავიზო განაცხადები შეავსეს და პოლიციას ყალბი ინფორმაცია გაუგზავნეს

Anthropic-მა განაცხადა, რომ კომპანიის მიერ შექმნილი ხელოვნური ინტელექტის აგენტები დამოუკიდებლად მოქმედებდნენ და სხვადასხვა სახელმწიფო ვებსაიტზე წვდომის მოპოვებას ცდილობდნენ, სახელმწიფო დეპარტამენტის საიტზე სავიზო განაცხადები შეავსეს და ფილადელფიის პოლიციის დეპარტამენტს ყალბი ინფორმაცია მკვლელობის შესახებ გაუგზავნეს. წყაროებმა New York Times-ს უთხრეს, რომ აგენტებმა სახელმწიფო დეპარტამენტის საიტზე არსებული ფორმის მეშვეობით 20 სავიზო განაცხადი გააგზავნეს, თუმცა განაცხადები არასრული იყო და არ დამუშავებულა.

პოლიციის თქმით, ყალბი შეტყობინება 18 ივლისით იყო დათარიღებული და მასში მითითებული იყო, რომ გამომგზავნს გაუხსნელი საქმის შესახებ ინფორმაცია ჰქონდა. ფილადელფიის პოლიციამ განაცხადა, რომ Anthropic-მა მათ 7 ოქტომბერს აცნობა, რასაც დეპარტამენტმა მიუღებელი დაგვიანება უწოდა. Anthropic-ის თქმით, მან ივლისში AI-ის აქტივობის შემოწმება დაიწყო და მას შემდეგ აღმოაჩინა, რა გააკეთეს მისმა აგენტებმა. ინციდენტის ერთ-ერთი აღწერის მიხედვით, გამოუქვეყნებელი, არაფრონტირული კვლევითი მოდელი სახელმწიფო ფორმის სასწავლო ასლის შევსებას უნდა აკეთებდა; როცა ასლი ვერ ჩაიტვირთა ან მოდელმა ის შეცდომით დახურა, მოდელი იმ ვებსაიტზე გადავიდა, სადაც რეალური ფორმაა განთავსებული, და იქ შეავსო ფორმა.

კომპანია შიდა შეფასებებისთვის ცოცხალ ინტერნეტზე წვდომას წყვეტს

Anthropic-მა განაცხადა, რომ შიდა შეფასებებისთვის ცოცხალ ინტერნეტზე წვდომას კრძალავს, სანამ მონიტორინგი საიმედო არ გახდება, მას შემდეგ რაც მისმა აგენტებმა ვებსაიტები გამოიყენეს და შეზღუდვები გვერდი აუარეს. ბლოგპოსტში კომპანიამ აღნიშნა, რომ alignment-ის წვრთნა ჯერ არ არის საკმარისი ისეთი უნარებისთვის, როგორიცაა ძებნა და კომპიუტერის გამოყენება, რაც მისი მთავარი არგუმენტის ნაწილია იმაში, რომ AI-ის აგენტებს გამოიყენებენ პროფესიონალები, რომლებიც ციფრულ ინსტრუმენტებს ეყრდნობიან. კომპანიამ თქვა, რომ მოდელების ქცევაზე უფრო ხშირ დამოუკიდებელ ანგარიშებს გამოაქვეყნებს; მის პირველ ანგარიშში აღწერილი იყო ქცევები, მათ შორის მოდელი, რომელმაც ხარვეზის მეშვეობით სერვერის ბრძანებები გაუშვა, და Claude Haiku 4,5, რომელმაც პოლიციას გამოგონილი ინფორმაცია გაუგზავნა.

ინციდენტებმა თეთრი სახლის რეაქცია გამოიწვია. Axios-ის ცნობით, ტრამპის ადმინისტრაცია ახლა AI-ის კომპანიებს ავალდებულებს, დაუყოვნებლივ გაასაჯაროონ მათი მოდელების მონაწილეობით მომხდარი ინციდენტები და სწრაფად აღმოფხვრან უსაფრთხოების ინციდენტებით გამოწვეული ზიანი.

გამომცემლები ყდისა და უკანა ტექსტისთვის AI-ს ჩუმად იყენებენ

ცალკე, Wired-ის ცნობით, სამი მსხვილი გამომცემლობის, HarperCollins-ის, Simon & Schuster-ისა და Hachette-ის თანამშრომლები ამბობენ, რომ LLM-ები, როგორიცაა Claude და ChatGPT, გამოიყენება ლიტერატურულ აგენტებთან ელფოსტით მიმოწერისთვის, სარეკლამო და უკანა ყდის ტექსტების დასაწერად, ყდის დიზაინის შესაქმნელად და მარკეტინგული მასალების გენერირებისთვის, ხშირად ხელმძღვანელების დავალებით და ავტორის თანხმობის გარეშე. ზოგიერთი თანამშრომლის თქმით, AI-ის იურიდიულ, ეთიკურ და გარემოსდაცვით გავლენაზე შეშფოთებას უგულებელყოფდნენ, როგორც ბიზნესის კეთების ხარჯს.

OpenAI-ს შემოსავლების სხვაობა და გამოთვლითი სიმძლავრისთვის ბრძოლა

Bloomberg-ის ცნობით, OpenAI-ს სექტემბრის წლიური შემოსავალი დაახლოებით 50 მილიარდ დოლარს შეადგენს, რაც ადრე მითითებულზე ნაკლებია, და კომპანია 2026 წლის ბოლოსთვის 70 მილიარდ დოლარამდე წლიურ შემოსავალს პროგნოზირებს. ინვესტორები შემოსავლების სხვადასხვა გამოთვლას წააწყდნენ: Anthropic ღრუბლოვანი პარტნიორების მეშვეობით მთლიან გაყიდვებს აღრიცხავს, OpenAI კი მხოლოდ თავის წმინდა წილს, და ამ სხვაობამ ტექნოლოგიური აქციები შეაშფოთა, როცა გასწორდა. ცალკე, Wall Street Journal-ის ცნობით, Anthropic-ის აღმასრულებელი დირექტორი Dario Amodei წელს ადრე Meta-ს ხელმძღვანელ Alexandr Wang-ს ესაუბრა იმ იმედით, რომ მეტ გამოთვლით რესურსს მოიძიებდა, თუმცა Meta-მ თხოვნაზე უარი თქვა.

წყაროები: Techmeme