FTC направила цивільні запити до OpenAI та Anthropic через шкоду безпеці користувачів

Запити вимагають записи про безпеку

Федеральна торгова комісія США (FTC) направила цивільні запити до OpenAI та Anthropic у середу та запросила документи, пов'язані з інцидентами безпеки. Як повідомляє Axios, ці інциденти стали кризою для індустрії. Джерело, обізнане у питанні, повідомило Axios, що сфера розслідування орієнтована на можливі порушення захисту користувачів.

Кожен цивільний слідчий запит перевищує 50 сторінок. Вони вимагають документи щодо інцидентів безпеки та практики захисту, а також маркетингові матеріали та детальні записи політики конфіденційності компанії. За словами джерела, слідчі запити пізніше будуть направлені також до AI-організацій третьої сторони.

Відомство планує допит керівників

За словами джерела, FTC планує змусити топ-керівників AI дати свідчення про свої продукти. Відомство має право розслідування вивчити шкоду, заподіяну користувачеві, яка може бути визнана несправедливою або обманною. Ця категорія охоплює широкий спектр неналежної поведінки, починаючи з нарахування компаніями цін за послуги, до звинувачень у введенні користувачів в оману.

Голова FTC Ендрю Фергюсон поділяє погляд інших фігур адміністрації та керівництва, що AI-системи не повинні виходити на ринок, якщо вони не є безпечними.

Тиск зростає після розкриття проблем безпеки

OpenAI стоїть перед багатьма позовами. Група генеральних прокурорів штатів у середу подала скаргу на OpenAI на основі законів про захист користувачів, звинувативши у введенні в оману щодо безпеки чат-бота для користувачів, включаючи дітей.

Адміністрація Трампа зайняла більш агресивну позицію щодо AI-компаній, оскільки розкриття інцидентів безпеки триває. Нещодавно створена президентом Трампом Super Intelligence Force, співголовами якої є Фергюсон, минулого тижня відповіла на «шахрайське» використання державних систем з боку Anthropic і оголосила масштабну вимогу для індустрії негайно повідомляти та усувати інциденти. За словами джерел, SI Force збереться в четвер.

Джерела: Axios · Techmeme