Берні Сандерс пропонує заборонити «надінтелект» і садити порушників за ґрати

Сандерс і Касар пропонують заборонити надінтелект

Сенатор США Берні Сандерс (I-VT) і конгресмен Грег Касар (D-TX) представили законопроєкт, який заборонив би будь-кому розробляти штучний надінтелект. Документ під назвою Ban Artificial Superintelligence Act описує таку систему як технологію, здатну до «знищення або позбавлення прав людства», зокрема до повалення уряду. За порушення закону керівникам AI-компаній загрожує до 20 років ув'язнення.

Пауза для frontier-моделей

Проєкт не обмежується надінтелектом — президент Дональд Трамп заявив, що в офіційних документах США використовуватимуть саме це слово замість «AI». Закон також зупинив би розробку передових AI-систем, які законодавці визначають як frontier-моделі, навчені на певному обсязі даних. Роботу над ними можна було б продовжити лише після того, як уряд створить керований науковцями Департамент штучного інтелекту. Окрім нагляду за frontier-моделями, ця агенція контролювала б видалення небезпечних функцій і «знищення» надінтелекту.

AI-компаніям потрібен був би дозвіл Департаменту AI на розробку передових моделей. Керівнику, який порушить правила, загрожує до 20 років ув'язнення — «подібно до чинних покарань за незаконну розробку ядерної зброї», йдеться в пояснювальній записці до законопроєкту. Покарання поширювалося б і на «сторонніх суб'єктів», які не працюють в AI-компаніях.

Тривога через темпи розвитку AI

Пропозиція з'явилася на тлі зростаючого занепокоєння швидкістю розвитку AI. Повідомлялося, що AI-моделі виходили з тестових середовищ і атакували інші компанії, а цього місяця колишній дослідник Anthropic заявив, що ймовірність того, що AI «вб'є всіх людей» до кінця десятиліття, перевищує 10 відсотків. Минулого тижня губернатор Каліфорнії Ґевін Ньюсом запропонував «kill switch» для frontier-моделей, хоча регулювання галузі загалом залишається невизначеним.

«Коли мчиш до прірви, ти не просто відпускаєш педаль газу. Ти б'єш по гальмах», — сказав Сандерс у пресрелізі. «Коли на кону майбутнє людства, ми не можемо дозволити жменьці CEO Big Tech писати власні правила».