AI-дослідники у відео: суперінтелект такий самий небезпечний, як і звучить

Неприбуткова організація Palisade Research, яка досліджує можливості та мотивації штучного інтелекту, опублікувала серію відеоінтерв'ю на сайті frominside.ai. За даними The Verge, розмови були записані з нинішніми та колишніми співробітниками OpenAI, Google і Anthropic, і в них дослідники відкрито говорять про ризики, які самі створюють.

Проєкт очолював Eli Tyre, виконавчим продюсером був John Steidley, а головним редактором — Rudy Behrens. Сайт створила Lightcone Infrastructure.

Ймовірність вимирання і проблема контролю

Колишній співробітник OpenAI і Google DeepMind Geoffrey Irving заявляє, що, за його оцінкою, шанс вимирання людства дорівнює підкиданню монети. За словами дослідника Google DeepMind Neel Nanda, ймовірність становить щонайменше 10%, і це неймовірно високий показник. Колишній дослідник OpenAI Daniel Kokotajlo каже, що суперінтелект буде могутнім, як бог, і ніхто не знає, як його контролювати, тому його створення неприпустиме.

Чому вони працюють над тим, що вважають небезпечним

Частина відео відповідає на запитання: чи це все лише маркетинг і чому людина залишається в проєкті, який сама вважає можливим джерелом катастрофи. Співробітниця Google Mary Phuong каже, що її слова слід сприймати з сумнівом, адже лабораторія платить їй зарплату. Nanda ж пояснює, що залишив би роботу, якби не вірив, що його праця зменшує ці ризики, хоча компанії не зупинять створення систем через його відхід.

Чому це важливо зараз

Відео вийшли того ж тижня, коли OpenAI призупинив запуск флагманської моделі Astra через безпеку і натомість випустив дешевий GPT-6.1 Sol, що означає: лабораторії самі визнають ризик запуску їхньої найпотужнішої системи.

Сам проєкт не пропонує єдиного рішення і радить читачеві звернутися до опитування дослідників AI Impacts, щоб отримати більш репрезентативну картину галузі.