Деміс Хасабіс з Google DeepMind попередив у Дубліні, що системи ШІ ще не безпечні

Деміс Хасабіс, британський вчений у сфері ШІ, лауреат Нобелівської премії та співзасновник Google DeepMind, виступив із відеозверненням на міжнародному саміті з ШІ в Дубліні. Він оптимістично дивиться на потенціал ШІ в науці, але вважає, що безпека має бути головним пріоритетом перед широким застосуванням автономних систем ШІ. «Системи ще не безпечні», — попередив він, і, за його словами, норизувати це неможливо.

Спочатку захистімо захисників

Хасабіс закликав досягти асиметрії у сфері кібербезпеки на користь захисників. Він запропонував використовувати ШІ для виправлення програмних слабких місць перед публічним випуском систем, що дасть захисникам значну перевагу. «Асиметрічно посилюйте захисників, довіряйте їм», — сказав він. Це означає розгортання ШІ в захисних ролях до широкодоступності.

Він навів недавні інциденти з хакерськими автономними агентами ШІ як приклад наявних ризиків. Вони не були значними, але показують, що не можна покладатися на безпеку. Тому він закликав промисловість і уряди створювати безпечні пісочниці (sandbox) до випуску автономних агентів.

Оптимізм щодо науки та реальні обмеження

Хасабіс, який разом із Джоном Джампером отримав Нобелівську премію з хімії за модель ШІ, що передбачає структури майже 200 мільйонів білків, вижив щирий оптимізм щодо наукового впливу ШІ. Він згадав дослідження стійкості до антибіотиків та ферментів, що розкладають пластик. Він також згадав заяву OpenAI у вересні про існування Нав'є-Стокса та розв'язання проблеми Сіглова, одну з задач тисячоліття. На його думку, новий розвиток математики може бути ціннішим для самого розв'язання.

Однак він визнав явні обмеження у фізиці, хімії та біології. ШІ все одно потребує петлі зворотного зв'язку з реальним світом: гіпотеза, експеримент, дані та валідація результату. «Завжди буде певна петля з реальним світом», — сказав він.

Стримування та ризик подвійного призначення

Хасабіс описав ШІ як технологію подвійного призначення, яка має велику користь, але й серйозну загрозу зловживанням. Він назвав головною проблемою неправильне вирівнювання: автономні агентні системи повинні слідувати цілям людини. Для безпеки, аналогічної до біологічної та ядерної, досвід критичних сфер має допомагати стратегіям стримування ШІ, тому він закликав залучати експертів з цих областей.

Міжнародний саміт з ШІ відбувся під час головування Ірландії в Європейському Союзі. На нього завітали сотні підприємців, законодавців і представники великих технологічних компаній, і зосередили увагу на використанні для розвитку ШІ.

Джерела: Cybernews