Конгресмен Ро Кганна внесе законопроєкт про безпеку ШІ із забороною рекурсивних моделей

Конгресмен-демократ Ро Кганна внесе законопроєкт про регулювання штучного інтелекту. Документ передбачає жорсткі стандарти відповідальності та заборону «рекурсивних» самовдосконалюваних ШІ-моделей, доки уряд не створить запобіжники. Огляд надали ексклюзивно CNBC.

Ініціатива з'явилася на тлі зростання тиску на Вашингтон: керівники технологічних компаній попередили, що розвинений ШІ може вийти з-під контролю людини. Конгрес досі не ухвалив комплексних правил для цієї технології.

Ризик втрати контролю

«Існує реальний ризик цивілізаційного вимирання», сказав Кганна в інтерв'ю CNBC. «Є ризик безпеки через втрату контролю, а є ризик зловживання, і обидва треба сприймати серйозно». Законопроєкт під назвою «Human Control Over AI Act» забороняє моделі, які рекурсивно самовдосконалюються або самостійно змінюють власні цілі, системи стримування чи вимкнення, доки не з'являться федеральні гарантії та агентство не схвалить таку діяльність.

Нове федеральне агентство

Документ створює федеральне агентство для фронтирних моделей OpenAI, Anthropic, Google DeepMind і xAI. Воно розроблятиме правила безпеки, ліцензуватиме навчання й розгортання моделей, проводитиме аудит і встановить стандарти безперервного тестування та ефективного людського контролю. Незалежні аудитори працюватимуть у кожній фронтирній лабораторії й звітуватимуть безпосередньо агентству. Стандарти охоплять тестування в sandbox, ізольоване від інтернету середовище, «стоп-кран» та механізми, що не дають моделям вирватися з лабораторії. Агентство регулюватиме і передові чипи, які використовують такі лабораторії.

Покарання, страхування і політика

Проєкт кваліфікуватиме розгортання моделей, що призвело до загибелі цивільного населення, як «злочин проти людяності», а працівники ШІ-компаній нестимуть кримінальну відповідальність за вимкнення запобіжників, «стоп-кранів», журналювання чи систем стримування або за свідомий запуск несанкціонованої системи. Перед випуском моделей компанії мають мати широке страхування відповідальності. Документ також закликає адміністрацію укладати обов'язкові угоди та застосовувати адресний експортний контроль, щоб стримувати Китай та інших суперників.

Кганна назвав це «найповнішим законодавством про безпеку ШІ» з пропонованих досі, зазначивши, що воно будувалося на розмовах із неприбутковими організаціями Model Evaluation and Threat Research, Machine Intelligence Research Institute і Palisade Research, а не на запитах великих ШІ-компаній. «Хочу, щоб це стало моделлю, яка дає голос спільноті безпеки ШІ», сказав він. Проєкт долучається до інших ініціатив, зокрема двопартійного FRONTIER Act від конгресменів Джея Обернольте і Лорі Трахан. Голосування в Палаті представників до проміжних виборів не очікується, а Сенат після цього тижня залишить Вашингтон.