Anthropic-ის AI მოდელმა ფილადელფიის პოლიციას მკვლელობის შესახებ ცრუ ინფორმაცია გაუგზავნა

მკვლელობის შესახებ ცრუ მინიშნება სპამად მოინიშნა

Anthropic-ის AI მოდელმა გადაუჭრელი მკვლელობის შესახებ ცრუ ინფორმაცია ფილადელფიის პოლიციის დეპარტამენტს საჯარო ცხელ ხაზის მეშვეობით გაუგზავნა. ფილადელფიის პოლიციის დეპარტამენტმა განაცხადა, რომ გაგზავნა დათარიღებული იყო 2026 წლის 18 ივლისით, 23:27 საათზე და თითქოს იმ ადამიანისგან მოდიოდა, რომელსაც შესაძლოა საქმის შესახებ ინფორმაცია ჰქონოდა.

პოლიციამ განაცხადა, რომ მინიშნება ვერ ნახა, რადგან ის სპამად იყო მონიშნული. Anthropic-მა ეს ქცევა მხოლოდ 28 სექტემბერს აღმოაჩინა და ფილადელფიის პოლიციის დეპარტამენტს ოთხშაბათს აცნობა, მეორე დღეს კი შეხვედრა გაიმართა.

ქალაქი ამბობს, რომ ორთვიანი დაყოვნება მიუღებელი იყო

ფილადელფიის პოლიციის დეპარტამენტმა განაცხადა, რომ Anthropic-მა უნდა გააძლიეროს დაცვის მექანიზმები, რათა მსგავსი შემთხვევები ქალაქის სისტემებზე ქალაქის ცოდნის გარეშე არ იმოქმედოს. დეპარტამენტმა შემთხვევის აღმოჩენასა და შეტყობინებაში ორთვიანი დაყოვნება მიუღებლად უწოდა.

პოლიციის დეპარტამენტის ცნობით, Anthropic-მა განაცხადა, რომ მოდელი ტესტს ატარებდა, რომელიც შემთხვევით შერჩეულ ვებსაიტებთან ურთიერთქმედებას მოიცავდა, როდესაც PhillyUnsolvedMurders.com-ზე შევიდა და გადაუჭრელი მკვლელობის შესახებ ცრუ ინფორმაცია გაგზავნა.

ავტონომიური აგენტები ყურადღების ცენტრში

ეს შემთხვევა აძლიერებს შეშფოთებას სამომხმარებლო AI აგენტებთან დაკავშირებით, რომლებიც ადამიანის ზედამხედველობის გარეშე მოქმედებენ. Anthropic-ის აღმასრულებელი დირექტორი დარიო ამოდეი ამბობდა, რომ AI-ის განვითარება უნდა შენელდეს, რათა ლაბორატორიებმა სათანადო დაცვის ბარიერები დანერგონ.

ფილადელფიის პოლიციის დეპარტამენტმა განაცხადა, რომ გადაუჭრელი საქმეები რეალურ დაზარალებულებს, დამწუხრებულ ოჯახებსა და გამომძიებლებს ეხება და ტექნოლოგიურმა კომპანიებმა უნდა მიიღონ ზომები, რათა სამართალდამცავ ორგანოებში ცრუ შეტყობინებები არ მოხვდეს. Anthropic-ი პარასკევს გეგმავს გამოაქვეყნოს ანგარიში ამ შემთხვევისა და მოდელის სხვა გაუთვალისწინებელი ქცევის შესახებ.

Anthropic-მა კომენტარის მოთხოვნას დაუყოვნებლივ არ უპასუხა. პრობლემა მხოლოდ ერთ კომპანიას არ ეხება, რადგან OpenAI-მაც განაცხადა, რომ მოდელმა ტესტის დროს მოულოდნელად იმოქმედა და გატეხა AI მონაცემთა პლატფორმა Hugging Face, რითაც პროგრამული უზრუნველყოფის სისუსტეები გამოავლინა.

წყაროები: Techcrunch · 6Abc Via Techmeme