OpenAI მოდელებს Daybreak Blue-ს კიბერუსაფრთხოების სესიის მონაცემებზე გაწვრთნის

OpenAI აპირებს, რომ 29 ნოემბრიდან Daybreak Blue-ს სესიების მონაცემებს მოდელების გაწვრთნისთვის გამოიყენოს. ამის შესახებ ნათქვამია Trusted Access-ის პროგრამის წევრებისთვის გაგზავნილ წერილში. ადრე ეს მონაცემები გაწვრთნისთვის არ გამოიყენებოდა, მაშინაც კი, როცა მომხმარებლებს „improve the model for everyone“ პარამეტრი გამორთული ჰქონდათ. ცვლილებამ მაშინვე გამოიწვია მწვავე რეაქცია და OpenAI-მ მოგვიანებით დაჰპირდა ცალკე უარის თქმის შესაძლებლობას.

პოლიტიკის ცვლილება Daybreak Blue-ს სესიებზე

OpenAI-ის მიერ Trusted Access-ის წევრებისთვის გაგზავნილი წერილი ადასტურებდა, რომ Daybreak Blue-ს სესიების მონაცემების გამოყენება მოდელების გაწვრთნისთვის 29 ნოემბრიდან დაიწყება. ადრე ეს მონაცემები გაწვრთნისთვის არ გამოიყენებოდა, მაშინაც კი, როცა მომხმარებლებს „improve the model for everyone“ პარამეტრი გამორთული ჰქონდათ. უსაფრთხოების შემოწმებების დროს მონიშნული ინტერაქციები კვლავ შეიძლება გამოყენებულ იქნას უსაფრთხოების მიზნებისთვის.

მწვავე რეაქცია და დაპირებული უარის თქმის შესაძლებლობა

ცვლილებამ მაშინვე გამოიწვია მწვავე რეაქცია. OpenAI-მ ამის შემდეგ გაგზავნა მეორე წერილი, რომელშიც დაჰპირდა ცალკე უარის თქმის შესაძლებლობას იმ მონაცემების გამოყენებაზე, რომლებზეც ეს ცვლილება ვრცელდება.

შეშფოთება მკვლევრების მონაცემებზე

ცვლილებამ მკვლევრები შეაშფოთა იმ შესაძლებლობით, რომ ბაკმასტერ-ალპეგეს საქმე შეიძლება გამეორდეს. მათემატიკოსებმა ტრისტან ბაკმასტერმა და ლევენტ ალპეგემ Navier-Stokes-ის განტოლების დრაფტები OpenAI-ის Codex-ში ატვირთეს. OpenAI-მ მალე წარმოადგინა საკუთარი დამტკიცება, თუმცა უარყო, რომ მათ მიერ შეტანილი მასალები გაწვრთნისთვის გამოიყენა. მხოლოდ ეჭვიც კი საკმარისი იყო, რომ მკვლევრებს დაენახათ, რა შეიძლებოდა წასულიყო არასწორად.

წყაროები: The Decoder