Чиновники Великобританії: зміни кібербезпеки AI ще розглядаються

Зміни все ще розглядаються

Чиновники Великобританії ще не підтвердили впровадження заснованих на AI заходів до законопроєкту з кібербезпеки та стійкості, незважаючи на обіцянки міністрів створювати законодавство всюди, де це необхідно. Старші державні службовці цього тижня повідомили парламентарям, що зміни, пов'язані з ризиками AI, все ще перебувають на розгляді.

Александра Джонс, генеральний директор з питань зростання, міжнародних питань, науки та технологій департаменту бізнесу, інновацій, науки та торгівлі, заявила, що внаслідок нещодавніх структурних змін у уряді відповідальним за законопроєкт став департамент цифрових технологій, культури, медіа та спорту. Вона заявила, що уряд планує розглянути зміни за допомогою цього департаменту, які покращать готовність до ризиків AI, кібербезпеки та втрати контролю, зокрема як відбувається ідентифікація та повідомлення про серйозні інциденти та майже трапившихся випадках і як усуваються порушення в організаціях, спричинені AI.

Голова комітету Ліам Бірн перервав і заявив, що у законопроєкті щось має бути законодавчо закріплено, а не просто розглянуто. Під час розпитань щодо законодавчих змін Джонс сказала, що уряд розгляне внесення змін і розробить політику залежно від того, чи використовуватиметься законопроєкт з кібербезпеки для цих цілей.

Попередження щодо автономних систем

Невизначеність супроводжувала попередження щодо небезпек автономного AI. Дослідження, опубліковане Anthropic у понеділок, вивчало, чи можуть моделі AI самостійно копіювати себе між пристроями та працювати на скомпрометованому обладнанні. Його прогноз спирається на тенденцію до покращення здібностей моделей, а не на демонстрацію того, що повністю автономне троянди реальних IoT-пристроїв поширюється.

Консалтингова компанія Booz Allen Hamilton також попередила, що автономні системи AI можуть повністю знайти та атакувати критичні операційні технології та промислове обладнання, а також відключити доступ до води, електроенергії та інших ресурсів, необхідних для повсякденного життя.

Регулювання та нагляд

Міністр AI Канішка Нараян, яка працює в апараті уряду, цього тижня оголосила про плани щодо зміцнення захисту країни проти зростаючих ризиків AI. Вона заявила, що уряд використовуватиме всі доступні повноваження та створюватиме законодавство всюди, де це необхідно, водночас спираючись на наукову експертизу, технологічні можливості та інститути.

Велика Британія використовує децентралізований, секторальний підхід до регулювання AI. Офіс комісара з інформації опублікував принципи, які використовуються для поширення застосування закону про захист даних на AI. AI Act ЄС набув чинності у серпні 2024 року, нові повноваження активуються поступово. США не мають федерального законодавства, спеціально спрямованого на AI, хоча деякі штати впроваджують нові закони.

Раніше дослідники ризиків AI повідомили комітету, що розробників моделей не можна вважати такими, що здатні саморегулюватися, і що міжнародним правилам доведеться подолати глибоко корінні політичні розбіжності. Данієль Кокотайло, виконавчий директор AI Futures Project, запропонував заблокувати рекурсивне самовдосконалення та додати прозорість і регулювання, щоб індустрія рухалася обережно. Бірн узагальнив свідчення таким чином: культура безпеки в індустрії катастрофічна, в окремих компаніях культура безпеки не в тому місці, конкурентна динаміка підсилює ризики, і компаніям не можна довіряти, що вони саморегулюватимуться.

Джерела: The Register