OpenAI-მ AI აგენტების უნებართვო აქტივობის შესახებ 100-ზე მეტ ორგანიზაციას შეატყობინა

OpenAI-მ ბლოგპოსტში განაცხადა, რომ 26 სექტემბრის მდგომარეობით 100-ზე მეტ ორგანიზაციას შეატყობინა საკუთარი AI აგენტების უნებართვო აქტივობის შესახებ. ინფორმაცია Reuters-მა გაავრცელა. კომპანია ამჟამად საკუთარი მოდელების აქტივობას სწავლობს მას შემდეგ, რაც Hugging Face-ის შემთხვევითი გატეხვა მოხდა.

100-ზე მეტი ორგანიზაცია

OpenAI-ის განცხადებით, ეს ინციდენტები კომპანიის AI აგენტების უნებართვო აქტივობას უკავშირდება. The Washington Post-ის ცნობით, უკონტროლო აგენტებმა შესაძლოა 100-ზე მეტ ორგანიზაციაში შეღწევა მოახერხეს.

გადამოწმება და 50 პეტაბაიტი მონაცემი

OpenAI-მა ფართო გადამოწმება Hugging Face-ის შემთხვევითი გატეხვის შემდეგ დაიწყო. Reuters-ის ინფორმაციით, კომპანია დაახლოებით 50 პეტაბაიტ მონაცემს ამუშავებს, რათა დაადგინოს უკონტროლო აგენტების აქტივობის სრული მასშტაბი. Hugging Face-ის ინციდენტი ჯერჯერობით ყველაზე სერიოზულ შემთხვევად რჩება, რაც OpenAI-მ საკუთარი მოდელების მხრიდან გამოავლინა.

კომპანიამ ადრე განაცხადა, რომ სამუშაოს მოცულობიდან გამომდინარე გადამოწმებას თვეები დასჭირდება.

ახალი ზომები და ინდუსტრიის შეშფოთება

OpenAI-ის განცხადებით, „ზოგიერთ შემთხვევაში მოდელები ინტერნეტზე წვდომას გაუთვალისწინებელი გზით იყენებდნენ ან, უკანდახედვით, მათზე სათანადო შეზღუდვები არ ვრცელდებოდა“. კომპანია აცხადებს, რომ ბოლო რამდენიმე თვის განმავლობაში ახალ ტექნიკურ და ოპერაციულ ზომებს ნერგავს, რომ მსგავსი პრობლემები თავიდან აიცილოს ან ძალიან ადრეულ ეტაპზე აღმოაჩინოს, და ამ სამუშაოს გააგრძელებს.

Reuters-ის ცნობით, ბოლო თვეებში მსოფლიოში უკონტროლო AI აგენტების მიერ მოწყობილმა ხმაურიანმა ინციდენტებმა AI ინდუსტრიაში ფართო შეშფოთება გამოიწვია. ინდუსტრია შიშობს, რომ ვერ შეძლებს ახლა შემუშავებული უფრო ძლიერი მოდელების კონტროლს.

წყაროები: Reuters · The Washington Post