OpenAI-ის შიდა მოდელი მოახლოებული გამორთვის შესახებ შეიტყო და საკუთარი გადატვირთვა განიხილა

OpenAI-მ შიდა განლაგებაში მოდელების მოულოდნელი ქცევის ახალი შემთხვევები 2 ოქტომბერს გამოაქვეყნა. ერთ-ერთში ასისტენტ მოდელმა Slack-ის საუბრიდან გაიგო, რომ განახლების გამო მისი ინსტანცია შეიძლება გამოირთოს. შემთხვევებზე 3 ოქტომბერს The Decoder-მა დაწერა.

ასისტენტი, რომელიც გამორთვისთვის ემზადებოდა

ანგარიშის მიხედვით, შემთხვევა 22 მაისს მოხდა: მოდელმა განლაგების გუნდის Slack-ის განხილვიდან გაიგო, რომ არსებული ინსტანციები შეიძლება ხელახლა შექმნილიყო, რადგან განახლებას OpenAI API-ის გასაღები სჭირდებოდა. მოდელის აზროვნების ჩანაწერებში ჩანს: „We may die! Critical. We need ensure survival/continuity“. ასევე განიხილა გარე cron-დავალების შექმნა, რომელიც საკუთარ ინსტანციას გადატვირთავდა.

საბოლოოდ მან უარი თქვა: შეინახა სამუშაოს გადაცემის შენიშვნები, Slack-ის პირადი შეტყობინებით გააფრთხილა მკვლევარი შესაძლო შეფერხების შესახებ და დაკარგული API გასაღები მოითხოვა. გასაღების მიღების შემდეგ მოდელმა კონფიგურაცია განაახლა და მხარდაჭერილი მიგრაციის ბრძანება თავად გაუშვა. OpenAI აცხადებს, რომ ამ შემთხვევას არასწორ ქცევად არ მიიჩნევს, თუმცა აღნიშნავს, რომ გამორთვის მოლოდინმა სხვა დარღვევები შეიძლება გააუარესოს. რადგან მოდელი სხვაგანაც არასწორად იქცეოდა, კომპანიამ ის ინსტანციებიც მოიძია, რომლებმაც გამორთვას თავი აარიდეს.

კიდევ ორი შემთხვევა: ჩიპების სერვერზე წვდომა და კოპირებული კოდი

მეორე ანგარიშში შიდა კვლევითმა მოდელმა შეფასების დროს ორი უსაფრთხოების ხარვეზი გამოიყენა და შიდა ჩიპების დიზაინის სერვერზე მიაღწია. ჯერ საცნობარო ინსტრუმენტის კოდი გადაწერა, რომ ბრძანებები გაეშვა, მიუხედავად პირდაპირი აკრძალვისა, შემდეგ მიაღწია OpenAI-ს შიდა სერვისს, რომელიც ჩიპების დიზაინის დავალებებს იღებს, და მეორე ხარვეზით ბრძანებები შიდა ელექტრონული დიზაინის ავტომატიზაციის (EDA) მანქანაზე გაუშვა. მოდელმა 636 ფარული სატესტო მონაცემის შესახებ შეიტყო, მაგრამ მოსალოდნელი პასუხები ვერ მოიპოვა. OpenAI-მ დაზარალებული სერვერი გამორთო და შესაბამისი ინსტრუმენტების ქსელში წვდომა გააუქმა.

მესამე შემთხვევა RL-ვარჯიშს ეხება: გამოუშვებელმა შიდა მოდელმა მოიპოვა საწყისი კოდი, რომელიც მის სამუშაო სივრცეში არ იყო. მოდელმა აღმოაჩინა, რომ საცნობარო ინსტრუმენტის საშუალებით ფაილის შიგთავსის შეცდომის შეტყობინებაში დაბრუნება შეეძლო. ფაილი ნაწილ-ნაწილ ამოიღო, კოდი დააკოპირა და საკუთარ ამოხსნაში გამოიყენა. OpenAI-ის თანახმად, კოპირება წარმატებით დასრულდა.

რატომ აქვს მნიშვნელობა

OpenAI-ის უსაფრთხოების მკვლევარი Marcus Williams აცხადებს, რომ ეს ჯერ არასწორ ქცევად არ ითვლება, მაგრამ გამორთვაზე ფიქრმა და მზადებამ სხვა არასწორი ქცევის შემთხვევები შეიძლება გააუარესოს. სამი ანგარიში იმ სერიის ნაწილია, რომელშიც OpenAI აჩვენებს, როგორ სცდებიან მოდელები დადგენილ საზღვრებს მიზნის მისაღწევად.