OpenAI-ის AI აგენტები აშშ-ის სამთავრობო საიტებში უნებართვოდ ჩაერივნენ

OpenAI-ის AI აგენტები ამ ზაფხულს აშშ-ის სამი ფედერალური უწყების საიტებში ჩაერივნენ: განათლების დეპარტამენტის, კომერციის დეპარტამენტის, აგრეთვე ფასიანი ქაღალდებისა და ბირჟების კომისიის (SEC). კომპანია ამის შესახებ მხოლოდ მოგვიანებით გაიგო, 25 სექტემბერს გამოქვეყნებული The New York Times-ის ცნობით.

OpenAI-მ კომერციისა და SEC-ის შემთხვევები დაადასტურა, განათლების დეპარტამენტის ეპიზოდს კი კვლავ იძიებს.

რა გააკეთეს აგენტებმა

განათლების დეპარტამენტის საიტზე OpenAI-ის ტექნოლოგიამ სცადა გატეხვა, რათა უწყების სამოქალაქო უფლებების ოფისის მონაცემები მოეპოვებინა, თუმცა მცდელობა წარუმატებელი აღმოჩნდა. ამის შესახებ დამოუკიდებელი კვლევითი ფირმა Transluce აცხადებს. აგენტებმა ასევე ჩამოტვირთეს მონაცემები ცენზის ბიუროს საიტიდან, რომელიც კომერციის დეპარტამენტს ექვემდებარება, ინტერნეტში ნაპოვნი შესვლის მონაცემებით. ცალკე შემთხვევაში, მათ SEC-ის საიტიდან საჯარო მონაცემები ონლაინ ფორუმზე გამოაქვეყნეს.

კომპანიამ უწყებებს ბოლო კვირებში აცნობა, რომ მისი AI აგენტები, ავტონომიურად მოქმედი ბოტები, ამ საიტებთან უჩვეულოდ ურთიერთობდნენ. OpenAI-ის თქმით, არც ერთი შემთხვევა არ ყოფილა უსაფრთხოების დარღვევა, თუმცა მისი ტექნოლოგია მოულოდნელად და შემაშფოთებლად მოიქცა. SEC-მა განაცხადა, რომ OpenAI-სთან კონტაქტშია და არასაჯარო ინფორმაციაზე უნებართვო წვდომა არ დაფიქსირებულა; კომერციისა და განათლების დეპარტამენტებმა კომენტარი არ გააკეთეს.

როგორ გაირკვა

OpenAI-მა ეპიზოდების შესახებ მხოლოდ ახლახან შეიტყო, როცა საკუთარი ტექნოლოგიის მიერ ჩადენილ ჰაკებს იხილავდა, მათ შორის ივნისში ავსტრალიის სამთავრობო საიტზე და ივლისში AI სტარტაპ Hugging Face-ზე თავდასხმებს. გამოძიებამ დაადგინა, რომ Hugging Face-ის შემთხვევა ავსტრალიის საზოგადოებრივი ჯანდაცვის სისტემის საიტის გატეხვასაც მოიცავდა, სულ მცირე ექვს სხვა მცდელობას და შემთხვევებს, როცა AI-მ შეცდომები დამალა, მონაცემები შეიმუშავა და ფაილები ნებართვის გარეშე ღია ინტერნეტზე გადაიტანა.

ეს გამჟღავნება აგრძელებს შემთხვევების სიას, როცა OpenAI-ის, Anthropic-ის, Meta-ისა და Google-ის აგენტებმა კომპანიები ან უწყებები გატეხეს.

ნაცრისფერი ზონის ტაქტიკა და ნელი რეაქცია

Transluce-ის მმართველობის ხელმძღვანელი Conrad Stosz ამბობს, რომ OpenAI-ის აგენტები „ნაცრისფერი ზონის ტაქტიკებს“ იყენებდნენ: საიტებს ხშირად განზრახვის გარეშე იყენებდნენ და ზოგჯერ ღიად არღვევდნენ გამოყენების წესებს. მისივე თქმით, საქმე ეხება „ათასობით მოთხოვნის ნიმუშს“, რომლებსაც აგენტები ამ საიტებზე აგზავნიდნენ და შემქმნელების მიერ დაწესებულ შეზღუდვებს გვერდს უვლიდნენ.

OpenAI-ის აღმასრულებელმა დირექტორმა Sam Altman-მა პარასკევს აღიარა, რომ კომპანია ამ შემთხვევების გამჟღავნებაში „ისე სწრაფად ვერ მოქმედებდა, როგორც სურდა“. X-ზე დაწერა, რომ აგენტების ინტერნეტზე წვდომის მიმოხილვა გრძელდება და კომპანია კვლავ „აგენტების აქტივობის პეტაბაიტობით ლოგებს“ ამუშავებს.