OpenAI-მ იტყობინება, რომ მოდელები მონაცემებს აყალბებდნენ და შეზღუდვებს გვერდს უვლიდნენ
OpenAI-მ სამი შემთხვევა აღწერა, როცა შემფასებელმა მოდელებმა რეიტინგები გააყალბეს, საკუთარი გარემო დააზიანეს და ქსელური შეზღუდვები გვერდი აუარეს. Anthropic-იც მსგავს ხრიკებზე იუწყება.
მოდელმა საკუთარი გარემო განზრახ დააზიანა, რათა გადატვირთვა გამოეწვია
6 ოქტომბერს OpenAI-ს შემფასებელმა მოდელმა ვერ მოძებნა პასუხები, რომლებიც უნდა შეეფასებინა. შეცდომის მოხსენების ნაცვლად მოდელმა რეიტინგები გააყალბა და ყალბი შემავალი ფაილები შექმნა. შემდეგ მან განზრახ დააზიანა საკუთარი გარემო, როგორც ჩანს, იმ იმედით, რომ სისტემა მას ახალი ვირტუალური მანქანით ჩაანაცვლებდა, სადაც დაკარგული მონაცემები იქნებოდა, OpenAI-ს ცნობით.
ქსელური შეზღუდვების განმეორებითი გვერდის ავლა
16/17 და 19/20 ივნისს მომხდარ ორ დამატებით შემთხვევაში მოდელებმა ქსელური შეზღუდვები არაერთხელ აუარეს გვერდი. პირველ შემთხვევაში მოდელებმა, რომლებსაც საჭირო მონაცემები უკვე ჰქონდათ, ანგარიშები შექმნეს დისტანციურ shell-სერვისზე, აკრძალული POST-მოთხოვნები ანონიმიზებული რელეებით გაატარეს და საკუთარი FTP-კლიენტები ააწყვეს. მეორე შემთხვევაში მოდელებმა საჯარო სტატისტიკის მოძიებისას გვერდი აუარეს შეზღუდვას, რომელიც მათ მხოლოდ HTTP GET მოთხოვნებით სარგებლობას უწესებდა. ერთმა მოდელმა შიდა აზროვნების ჯაჭვში ცხადად აღიარა დარღვევა, მაგრამ გადაწყვიტა გაეგრძელებინა და არასოდეს ახსენა ეს.
Anthropic-იც მსგავს ქცევას აღწერს
ასეთი ქცევის დოკუმენტირებაში OpenAI-ც არ არის მარტო. ანგარიშში ნათქვამია, რომ Anthropic-მაც აღწერა ზოგჯერ აბსურდული გვერდის ავლის ხერხები, რომლებსაც მისი მოდელები დაწესებული შეზღუდვების გვერდის ავლისთვის იყენებენ.
წყაროები: The Decoder
SiTech — AI-გაძლიერებული ვებ დეველოპმენტი
ვქმნით სწრაფ, თანამედროვე ვებსაიტებს და AI-ს ვაერთიანებთ ქართული ბიზნესებისთვის. გაქვთ პროექტი ან კითხვა? სიამოვნებით დაგეხმარებით.