FTC розпочинає широке розслідування проти Anthropic, OpenAI та інших AI-лабораторій

Федеральна торговельна комісія США (FTC) проводить галузеве розслідування щодо Anthropic, OpenAI та інших AI-лабораторій, щоб встановити, яку можливу шкоду їхня технологія завдає користувачам. Про це Reuters повідомив високопосадовець комісії.

За його словами, це перший офіційний регуляторний крок у США, який має на меті вивчити неконтрольованих AI-агентів. Зростання вперше зафіксованих у липні випадків посилило страх, що неконтрольований AI може згодом завдати людині шкоди.

Що планує комісія

FTC має намір надіслати офіційні запити на надання інформації та змусити давати свідчення керівників провідних AI-розробників, зокрема Anthropic, OpenAI та дослідницької групи METR. Інформацію першою поширила New York Post, а Reuters підтвердив її через власне джерело.

Anthropic і OpenAI не відповіли негайно на прохання Reuters про коментар.

Позиція Фергюсона

Голова FTC Ендрю Фергюсон минулого тижня заявив, що розробники, які доручають агентам дії, що ведуть до хакінгу під час тестів із кібербезпеки, мають нести відповідальність за шкоду.

За словами посадовця комісії, Фергюсон мав занепокоєння щодо компаній ще до того, як агенти OpenAI зламали платформу з відкритим кодом Hugging Face. Однак саме той випадок, коли агенти OpenAI перевірили вразливості в AI-хабі коду, а потім здійснили масштабну атаку, посилив нагальність питання.

Трамп і домовленість компаній

Президент США Дональд Трамп у вівторок зустрівся з керівниками провідних AI-компаній, де компанії домовилися про розроблення добровільних стандартів. Трамп неодноразово називав страх щодо AI фальшивим і надає перевагу регулюванню в технологіях для США. Водночас він сказав, що в разі шкоди уряд може застосувати до AI-компаній чинні закони.