
OpenAI посилює захист від витягування міркувань з моделей GPT-6.2
OpenAI повідомляє, що атаки на витягування захищених міркувань із попередніх запитів знизилися з 54,0% на GPT-6 Astra до 0,2% на GPT-6.2 Astra, а атаки на активні запити знизилися з 22,9% до 0,9%.
OpenAI суттєво посилила захист від витягування внутрішніх міркувань із моделей GPT-6.2 Astra та GPT-6.2 Sol. У внутрішніх автоматизованих тестах атаки, що витягували захищені міркування з попередніх запитів, знизилися з 54,0 відсотка успішності на GPT-6 Astra до 0,2 відсотка на GPT-6.2 Astra, а атаки на активні запити знизилися з 22,9 до 0,9 відсотка. Компанія також впроваджує вибрані покращення в GPT-6 Astra.
Що змінилося у тестах
Повідомлені показники успішності атак походять з адаптивного червонокомандного тестування за принципом чорної скриньки, узагальненого по шести моделях зловмисників. Для витягування з попередніх запитів показник знизився з 54,0 відсотка до 0,2 відсотка. Для витягування з поточних запитів він знизився з 22,9 відсотка до 0,9 відсотка. OpenAI зазначає: чим нижче, тим краще.
Як працюють захисти
Для окремих запитів системи поєднують цільове навчання, фільтри вхідних і вихідних повідомлень та викликів інструментів, а також блокування API, які не дають старішим моделям читати захищені міркування. Проти скоординованих кампаній OpenAI щотижня блокує від тисяч до десятків тисяч облікових записів.
Галузевий контекст
Anthropic також бореться з систематичними дистиляційними атаками і блокує десятки тисяч облікових записів, щоб стримати крадіжку внутрішніх міркувань; за повідомленнями, це вдається у 90-99 відсотках випадків. Anthropic також закликала до скоординованої відповіді з боку індустрії та політиків. Раніше, у повідомленні від 23 лютого 2026 року, йшлося про те, що Anthropic звинувачує Deepseek, Moonshot і MiniMax у крадіжці ШІ-даних Claude через 16 мільйонів запитів.
Джерела: The Decoder
SiTech — веброзробка з підтримкою AI
Створюємо швидкі та сучасні сайти й інтегруємо AI у бізнес-процеси. Маєте проєкт чи запитання? Із задоволенням допоможемо.