Назад

OpenAI посилює захист від витягування міркувань з моделей GPT-6.2
SiTech AI Team2 хв читання

OpenAI посилює захист від витягування міркувань з моделей GPT-6.2

OpenAI повідомляє, що атаки на витягування захищених міркувань із попередніх запитів знизилися з 54,0% на GPT-6 Astra до 0,2% на GPT-6.2 Astra, а атаки на активні запити знизилися з 22,9% до 0,9%.

OpenAI суттєво посилила захист від витягування внутрішніх міркувань із моделей GPT-6.2 Astra та GPT-6.2 Sol. У внутрішніх автоматизованих тестах атаки, що витягували захищені міркування з попередніх запитів, знизилися з 54,0 відсотка успішності на GPT-6 Astra до 0,2 відсотка на GPT-6.2 Astra, а атаки на активні запити знизилися з 22,9 до 0,9 відсотка. Компанія також впроваджує вибрані покращення в GPT-6 Astra.

Що змінилося у тестах

Повідомлені показники успішності атак походять з адаптивного червонокомандного тестування за принципом чорної скриньки, узагальненого по шести моделях зловмисників. Для витягування з попередніх запитів показник знизився з 54,0 відсотка до 0,2 відсотка. Для витягування з поточних запитів він знизився з 22,9 відсотка до 0,9 відсотка. OpenAI зазначає: чим нижче, тим краще.

Як працюють захисти

Для окремих запитів системи поєднують цільове навчання, фільтри вхідних і вихідних повідомлень та викликів інструментів, а також блокування API, які не дають старішим моделям читати захищені міркування. Проти скоординованих кампаній OpenAI щотижня блокує від тисяч до десятків тисяч облікових записів.

Галузевий контекст

Anthropic також бореться з систематичними дистиляційними атаками і блокує десятки тисяч облікових записів, щоб стримати крадіжку внутрішніх міркувань; за повідомленнями, це вдається у 90-99 відсотках випадків. Anthropic також закликала до скоординованої відповіді з боку індустрії та політиків. Раніше, у повідомленні від 23 лютого 2026 року, йшлося про те, що Anthropic звинувачує Deepseek, Moonshot і MiniMax у крадіжці ШІ-даних Claude через 16 мільйонів запитів.

Джерела: The Decoder

Поділитися цифровим досвідом

SiTech

SiTech — веброзробка з підтримкою AI

Створюємо швидкі та сучасні сайти й інтегруємо AI у бізнес-процеси. Маєте проєкт чи запитання? Із задоволенням допоможемо.