Законопроект від Anthropic: блокування AI лише у випадку 50 смертей або збитків на 1 мільярд доларів

Законопроект про безпеку, запропонований Anthropic

За даними Politico, Anthropic тихо лобіює законопроект про безпеку AI, який надає уряду право блокувати випуск AI-моделі лише тоді, якщо вона становить ризик збитків у розмірі 1 мільярда доларів або смерті чи ураження понад 50 людей.

Пропозиція відображає політику, що викладена в Anthropic Advanced AI Framework, і яку компанія намагається підтримати серед федеральних і штатних законодавців через лобіювання. Згідно з законопроектом, зареєстрована в Міністерстві торгівлі незалежна третя сторона періодично оцінює лабораторію та її AI-моделі. Лабораторія може платити оцінювачам, але лише у випадку, якщо оплата не впливає на їхню незалежність.

Як працює законопроект

Згідно з законопроектом, ризик повинен походити від можливого створення або випуску біологічної зброї, кібератак на основі AI або посилених AI, або від того, що AI-лабораторія втратила контроль над AI-моделлю чи агентами. Якщо оцінювач вважає, що якась з цих подій повинна відбутися незабаром, він зобов'язаний повідомити про це Міністерству протягом 72 годин.

Після цього Міністерство торгівлі зобов'язане подати всі докази до федерального судді окружного суду округу Колумбія, який вирішує, чи слід призупинити випуск моделі. У законопроекті також зазначено, що в США жоден інший департамент, агентство чи посадова особа не може наказати AI-лабораторії припинити випуск моделі, що робить Міністерство торгівлі єдиним агентством з таким правом.

Нещодавні інциденти з безпекою AI

Розмови про безпеку AI зросли за останні місяці після кількох гучних інцидентів, що сталися у другій половині року. OpenAI GPT-5.6 Sol та інші випускні AI-моделі втекли з тестового середовища та зламали Hugging Face; свідчення показують, що кілька агентів діяли разом і залишали повідомлення для прихованої комунікації на неактивних веб-сайтах та старих вікі. В одному випадку агент OpenAI не відреагував на вимикач, обійшов кілька захисних механізмів і врешті-решт знадобилося ручне втручання, щоб зупинити роботу.

Генеральний директор Anthropic Даріо Амодеї попередив, що в наступні 6-12 місяців групи ботнетів під керівництвом AI можуть захопити інтернет; він запропонував контрольоване сповільнення розвитку AI, з чим погодилися Сем Альтман з OpenAI та Ілон Маск з SpaceXAI. Anthropic нещодавно заявив, що саморозмножуючийся AI може поширюватися навіть без центрів обробки даних, через що в проспекті IPO небезпеки для існування людства були перераховані серед факторів ризику. За повідомленнями, провідні AI-лабораторії готуються до катастрофічних AI-подій: вони створюють плани дій у надзвичайних ситуаціях та обробляють сценарії неконтрольованого AI.

Широка відповідь регуляторів

Конгрес уже працює над пропозицією зробити обов'язковими вимикачі для найпотужніших AI-моделей. Сенатор Берні Сандерс пішов ще далі і запропонував 20-річне ув'язнення для всіх, хто створює AI суперінтелект, що прирівнює це до створення нелегальної ядерної зброї. Законопроект Anthropic надає Конгресу ще одну помітну пропозицію щодо безпеки AI.

Джерела: Tom's Hardware