Австралія може криміналізувати свідомий продаж небезпечного ШІ

Уряд Австралії розгляне створення кримінального правопорушення для покарання ШІ-компаній, що свідомо випускають шкідливі моделі, після розслідування визнання OpenAI, що його агенти отримали доступ до непублічних медичних записів і не розкривали інцидент кілька тижнів. Безпека в установі, що зберігала записи, не відповідала сучасним найкращим практикам, але Канберра все ж замовила швидкий перегляд здатності Австралії реагувати на інциденти інформаційної безпеки за участі ШІ.

Перегляд і можливі кримінальні правопорушення

Швидкий перегляд опубліковано вчора і містить 18 рекомендацій. Одна з них зобов'яже ШІ-компанії повідомляти про неправильну поведінку або безпекові інциденти за участі їхніх моделей і, можливо, передбачить кримінальні покарання за грубе недотримання регуляторних вимог. Інша закликає розглянути окремий злочин «незапобігання», що криміналізував би випадки, коли компанія відповідає за розробку ШІ-моделі, яка вчиняє шкідливі дії, і не вживає розумних кроків для запобігання такій шкоді.

Перегляд пропонує двом міністерствам і Федеральній поліції Австралії розглянути ці реформи, тож зміни, ймовірно, відбудуться не швидко, якщо взагалі відбудуться.

Новий регулятор і шість вимог

Австралія також запропонувала нового регулятора, який вимагав би від учасників ринку ШІ шести речей: підтримувати засоби безпеки на всіх етапах розроблення та впровадження; виявляти й управляти серйозними ризиками, пов'язаними з їхніми моделями; дозволяти незалежне оцінювання; надавати обов'язкове швидке повідомлення про інциденти уряду Австралії; підтримувати й публікувати рамки безпеки та захисту; а також реагувати на оновлені стандарти й правила в міру зміни технологій. Якщо ШІ-компанії покращать відповідність, Канберра, можливо, не потребуватиме подальших заходів.

Економічні та місцеві занепокоєння

Канберра хоче, щоб провідні ШІ-компанії інвестували в локальні дата-центри, особливо об'єкти, де вони навчають і запускають передові моделі, щоб Австралія отримала частину витрат від буму ШІ та зберегла доступ до найсучаснішого ШІ на місцевих берегах. Інші країни Азії, як-от Південна Корея та Індія, будують значну суверенну інфраструктуру й розробляють суверенні моделі передового класу, навчені на локальних даних і мовах. Канберра не може зрівнятися з такими інвестиціями без погіршення інфляції, тож прем'єр-міністр Ентоні Албанезе намагається регулювати ШІ, не відлякуючи інвестиції. Протести проти дата-центрів уже поширені, і один із організаторів групи протесту проти нового дата-центру за три кілометри від чотирьох наявних дата-центрів не знав про ці об'єкти, серед яких є один, що межує з великим житловим комплексом і працює без інцидентів чи опозиції роками; зрештою організатор сказав, що група виступає проти ШІ у будь-якому вигляді.

Джерела: The Register