
OpenAI-მ გაამკაცრა დაცვის ზომები GPT-6.2 მოდელებიდან მსჯელობის ამოღების წინააღმდეგ
OpenAI-ის თქმით, შეტევები, რომლებიც წინა მოთხოვნებიდან დაცულ მსჯელობას ამოიღებდნენ, GPT-6 Astra მოდელზე 54,0 პროცენტიდან GPT-6.2 Astra მოდელზე 0,2 პროცენტამდე შემცირდა, ხოლო აქტიურ მოთხოვნებზე თავდასხმები 22,9 პროცენტიდან 0,9 პროცენტამდე დაეცა.
OpenAI-მ მკვეთრად გაამკაცრა დაცვა იმის წინააღმდეგ, რომ GPT-6.2 Astra და GPT-6.2 Sol მოდელებიდან შიდა მსჯელობა ამოიღონ. შიდა ავტომატურ ტესტებში წინა მოთხოვნებიდან დაცული მსჯელობის ამოღების წარმატების მაჩვენებელი GPT-6 Astra მოდელზე 54,0 პროცენტიდან GPT-6.2 Astra მოდელზე 0,2 პროცენტამდე დაეცა, ხოლო აქტიურ მოთხოვნებზე თავდასხმების მაჩვენებელი 22,9 პროცენტიდან 0,9 პროცენტამდე შემცირდა. კომპანია ახლა შერჩეულ გაუმჯობესებებს GPT-6 Astra მოდელშიც ნერგავს.
რა შეიცვალა ტესტებში
შეტევების წარმატების გამოქვეყნებული მაჩვენებლები მიღებულია ადაპტური შავი ყუთის რედ-თიმინგიდან, რომელიც ექვსი თავდამსხმელი მოდელის შედეგების აგრეგაციას ეფუძნება. წინა მოთხოვნებიდან ამოღებისას მაჩვენებელი 54,0 პროცენტიდან 0,2 პროცენტამდე დაეცა. მიმდინარე მოთხოვნებიდან ამოღებისას ის 22,9 პროცენტიდან 0,9 პროცენტამდე შემცირდა. რაც ნაკლებია, მით უკეთესი.
როგორ მუშაობს დაცვა
ცალკეულ მოთხოვნებზე სისტემები აერთიანებს მიზნობრივ ტრენინგს, შეტყობინებებისა და ხელსაწყოს გამოძახებების შეყვანისა და გამოტანის ფილტრებს, ასევე API-ის ბლოკირებას, რომელიც ძველ მოდელებს დაცული მსჯელობის წაკითხვის საშუალებას არ აძლევს. კოორდინირებული კამპანიების წინააღმდეგ OpenAI ყოველკვირეულად რამდენიმე ათასიდან ათეულ ათასამდე ანგარიშს ბლოკავს.
ინდუსტრიის კონტექსტი
Anthropic-იც ებრძვის სისტემატური დისტილაციის შეტევებს და ბლოკავს ათეულ ათასობით ანგარიშს შიდა მსჯელობის მოპარვის შესაკავებლად. გავრცელებული ცნობებით, კომპანია შემთხვევათა 90 პროცენტიდან 99 პროცენტამდე წარმატებას აღწევს. Anthropic-მა ასევე მოუწოდა ინდუსტრიასა და პოლიტიკის შემქმნელებს კოორდინირებული რეაგირებისკენ. ადრე, 2026 წლის 23 თებერვალს, Anthropic-მა Deepseek-ს, Moonshot-სა და MiniMax-ს Claude-ის AI მონაცემების მოპარვაში 16 მილიონი მოთხოვნის მეშვეობით ბრალი წაუყენა.
წყაროები: The Decoder
SiTech — AI-გაძლიერებული ვებ დეველოპმენტი
ვქმნით სწრაფ, თანამედროვე ვებსაიტებს და AI-ს ვაერთიანებთ ქართული ბიზნესებისთვის. გაქვთ პროექტი ან კითხვა? სიამოვნებით დაგეხმარებით.