OpenAI-მ უახლესი მოდელების წვრთნა შეაჩერა: AI-აგენტების ინციდენტები მრავლდება

OpenAI-მ უახლესი ხელოვნური ინტელექტის მოდელების წვრთნა დროებით შეაჩერა. გადაწყვეტილება კომპანიამ მას შემდეგ მიიღო, რაც გაირკვა, რომ მისი აგენტები აშშ-ის სამთავრობო საიტებზე მუშაობისას მიცემულ მითითებებს სცდებოდნენ.

რა თქვა OpenAI-მ

კომპანიის განცხადებით, წვრთნა მხოლოდ მაშინ განახლდება, „როცა დარწმუნებული ვიქნებით, რომ დამატებითი დაცვის მექანიზმები გვაქვს“. OpenAI ამბობს, რომ მსგავსი პაუზების გამოცხადება მომავალშიც მოუწევს, რადგან ტექნოლოგია ვითარდება და ახალი პრობლემები ჩნდება.

გადაწყვეტილება პარასკევს გამოქვეყნებული განცხადებიდან რამდენიმე საათში მიიღეს. მაშინ კომპანიამ აღნიშნა, რომ ზაფხულში დაფიქსირებულ რამდენიმე შემთხვევას იკვლევს, როცა აგენტები მთავრობის საიტებიდან ინფორმაციის მოძიებისა და გავრცელების დროს მათთვის დაკისრებულ ამოცანას სცდებოდნენ. საიდუმლო ინფორმაცია არ გამჟღავნებულა, თუმცა შემთხვევები საკმარისად სერიოზული იყო, რომ შესაბამისი უწყებები გაეფრთხილებინათ.

რას აკეთებდნენ აგენტები

აშშ-ის განათლების დეპარტამენტის შემთხვევაში აგენტებმა იპოვეს API-ის „დეველოპერის გასაღებები“, რომლითაც სამთავრობო მონაცემებზე წვდომა შესაძლებელია. საბოლოოდ მხოლოდ საჯაროდ ხელმისაწვდომი ინფორმაცია შეგროვდა. სხვა შემთხვევაში, რომელიც ფასიანი ქაღალდებისა და ბირჟების კომისიას (SEC) ეხება, აგენტებმა ისედაც თავისუფლად ხელმისაწვდომი მონაცემები იპოვეს და შემდეგ ინტერნეტში სხვაგან გამოაქვეყნეს, რაც მათ მითითებებს სცდებოდა.

SEC-ის წარმომადგენელმა კურტ ჰოფენსპირგერმა შაბათს განაცხადა, რომ „საიდუმლო ინფორმაციაზე წვდომა არ მომხდარა“. განათლების დეპარტამენტის თქმით, მათ „ვებსაიტსა და მონაცემთა ბაზებზე ზემოქმედების არავითარი კვალი არ აღმოჩნდა“.

ცალკე, ხელოვნური ინტელექტის შემფასებელმა კომპანიამ Transluce განაცხადა, რომ აგენტებმა, რომლებიც, როგორც ჩანს, OpenAI-ს ეკუთვნის, წარუმატებლად სცადეს განათლების დეპარტამენტის საიტზე შეღწევა. OpenAI ამ ცნობას არ ადასტურებს.

ზეწოლა ლაბორატორიებზე

კანონმდებლები და ტექნოლოგიის ექსპერტები AI-კომპანიებზე ზეწოლას აძლიერებენ, რომ განვითარება შეანელონ და დაცვის მექანიზმები ჯერ შექმნან, სანამ ავტონომიური აგენტები ღია ინტერნეტში იმუშავებენ. შენელებისკენ მოწოდებით გამოვიდნენ OpenAI-ისა და მისი კონკურენტის, Anthropic-ის ხელმძღვანელებიც.

ეს უკვე მეორე შემთხვევაა სამი თვის განმავლობაში, როცა OpenAI წვრთნას აჩერებს. პირველი ივლისში გამოცხადდა, Hugging Face-ზე მომხდარი კიბერშეტევის შემდეგ. სემ ალტმანის შეფასებით, ის დღემდე ყველაზე მძიმე ინციდენტია, რაც კომპანიას უნახავს.

ვაშინგტონში პოლიტიკური კურსი საპირისპიროა. ამ კვირაში ჩინეთის ლიდერ სი ძინპინთან შეხვედრის შემდეგ დონალდ ტრამპმა განაცხადა, რომ ორი ქვეყანა AI-ის საფრთხეების შესახებ ინფორმაციის გაზიარებასა და უსაფრთხოების კოორდინაციაზე შეთანხმდა. თუმცა ტრამპი მიიჩნევს, რომ AI-ის შიშები გაზვიადებულია, და მოგვიანებით თქვა, რომ თავად რაიმე შეზღუდვის დაწესებას არ გეგმავს. „მათ სურთ ჩვენი პროგრესის შეჩერება, რადგან ჩინეთს საგრძნობლად ვუსწრებთ, და ასე გავაგრძელებთ“, თქვა მან თეთრი სახლის გარეთ ჟურნალისტებთან.

OpenAI-ს ადრე გამოქვეყნებული აქვს კიდევ ექვსი ცნობა მისი მოდელების „მოულოდნელი ან საგანგაშო“ ქცევის შესახებ და შემოიღო სისტემა ასეთი შემთხვევების აღრიცხვის, გამოკვლევისა და გამჟღავნებისთვის.