OpenAI посилює обмеження для підлітків щодо запитань про зброю

OpenAI повідомила, що додає суворіші обмеження на інформацію про зброю, яку підлітки можуть отримати від ChatGPT, включно із запитаннями, що виглядають безпечними. Компанія заявила, що зміни мають додатково зменшити ризики неправомірного використання, водночас зберігаючи доступ до підтримки, деескалації та допомоги у встановленні контакту з довіреним дорослим.

Що зміниться для підлітків

OpenAI повідомила, що вже має політики, які не дозволяють ChatGPT допомагати користувачам здійснювати насильницькі дії або допомагати підліткам отримати зброю. За нових обмежень компанія обмежить практичну інформацію про зброю та системи безпеки, яку можна використати для сприяння насильству, навіть якщо немає ознак насильницьких намірів. Підлітки й надалі зможуть використовувати ChatGPT для запобігання насильству або його деескалації, пошуку підтримки та встановлення контакту з довіреним дорослим.

Ширші межі політики

Компанія повідомила, що також посилює межі політики для всіх користувачів. Ці межі особливо стосуються запитів про реконструкції минулих масових нападів, включно з подробицями про використану зброю та обладнання і про те, як їх було отримано, а також детальних порівнянь за масштабом шкоди, які можуть посилити погану славу нападника.

Батьківський контроль і контекст безпеки

Обмеження працюватимуть разом із батьківським контролем, який OpenAI запровадила минулого року. Ці засоби надсилають сповіщення батькам, якщо пов'язані підліткові облікові записи порушують політики ChatGPT щодо насильницьких погроз або актів насильства. OpenAI повідомила, що додаткові запобіжні заходи є наслідком позову про неправомірну смерть проти компанії минулого року та публічного вибачення генерального директора Сема Альтмана за те, що він не повідомив поліцію про тривожні журнали чату, пов'язані зі стріляниною в Тамблер-Рідж раніше цього року.

Погляд у майбутнє

OpenAI повідомила, що опублікує свій перший звіт про безпеку спільноти на початку 2027 року, а після цього оновлюватиме його кожні шість місяців.

Джерела: Engadget