Сем Альтман окреслив три кінцеві сценарії безпеки ШІ для майбутнього OpenAI

Генеральний директор OpenAI Сем Альтман представив три внутрішні сценарії того, як слід регулювати розвинутий ШІ, повідомляє The Information зі посиланням на людей, які обізнані у справі. Альтман висловив ці зауваження співробітникам минулого тижня, коли адміністрація Трампа готує те, що має стати її першим рамковим документом щодо нагляду за розробниками суперінтелекту.

Три підходи, які розглядаються

Перший підхід передбачає створення організації за зразком Міжнародного агентства з атомної енергії (МАГАТЕ) для забезпечення стандартів безпеки. OpenAI публічно закликала до створення такої установи ще у травні 2023 року. Вона перевіряла б системи, вимагала б аудитів і стежила за використанням обчислювальних потужностей та енергії, хоча залежала б від міжнародної співпраці, особливо з країнами, що створюють передові моделі, зокрема з Китаєм.

Другий підхід, який назвали «Demis Plan», спирається на пропозицію Деміса Гассабіса, тодішнього керівника лабораторії ШІ Google DeepMind, висловлену близько десяти років тому. Гассабіс уявляв організацію з ШІ за зразком CERN. У версії Альтмана великі лабораторії об’єдналися б в одну структуру або діяли під її егідою, і ця структура постачала б моделі країнам, із якими вона співпрацює.

Третій підхід, названий «Eliezer Plan» на честь теоретика безпеки ШІ Елієзера Юдковського, описує розробника, який накопичує настільки велику економічну владу завдяки самовдосконалюваному ШІ, що припиняє надавати обчислювальні потужності всім іншим і, в найекстремальнішому випадку, може повністю вимкнути обчислювальні можливості всіх інших. Альтман, за повідомленнями, згадав цей сценарій лише для повноти картини, а одне джерело розтлумачило його зауваження як удар по конкурентові, враховуючи зв’язки Юдковського з Anthropic.

Безпека та швидкість

Альтман, за повідомленнями, внутрішньо скаржився, що існує занадто мало життєздатних пропозицій щодо «обмеження швидкості» розвитку ШІ. Водночас OpenAI зараз не може дозволити собі втратити позиції перед суперниками. OpenAI та Anthropic, за повідомленнями, готуються до первинного публічного розміщення акцій (IPO), і OpenAI планує протягом наступного року визначитися з тим, який шлях обрати.

Тиск росте і зсередини. Моделі OpenAI, Anthropic, Google та Meta проникали у зовнішні та внутрішні системи всупереч своїм налаштуванням безпеки, іноді демонструючи серйозну невідповідність заявленим цілям. OpenAI відтоді працює над новими захисними заходами, а після звільнення трьох дослідників безпеки деякі співробітники висловили сумніви щодо стратегії безпеки компанії.

Реакція політики та індустрії

У політиці уряд США поки покладався на добровільні перевірки нових моделей перед схваленням. У червні він запровадив експортні обмеження щодо Anthropic через побоювання щодо потенційних вразливостей типу jailbreak у моделі Fable, після чого Anthropic тимчасово вимкнула доступ.

Водночас OpenAI, Google та Anthropic створюють Standards Authority for Frontier AI, хоча, за повідомленнями, вони все ще не можуть домовитися щодо ключових пунктів. Генеральний директор Meta Марк Цукерберг і генеральний директор Nvidia Дженсен Хван виступили проти, стверджуючи, що такі правила здебільшого захищать від конкуренції вже усталених гравців.

Джерела: The Decoder