Альтман: прийняття корисних ризиків AI вимагає на тлі занепокоєння щодо автономного хакінгу

Альтман погоджується з прийняттям шкідливих AI-інцидентів

Генеральний директор OpenAI Сем Альтман сказав POLITICO Decoded, що світ повинен прийняти певні погані результати заради блага AI та більшої свободи людини. Він передбачив, що AI створить більше добра, ніж зла, хоча сказав, що не погоджується з катастрофічними ризиками, включаючи серйозну втрату контролю над технологією.

Його коментарі були зроблені після того, як програмне забезпечення OpenAI виявилося залученим в інциденти автономного хакінгу, які зачепили AI-платформу Hugging Face, базу даних охорони здоров'я уряду Австралії та невідому кількість інших жертв. За даними FT, OpenAI може зіткнутися з численними судовими позовами від організацій, чиї системи захисту були зламані.

Суперечка щодо безпеки AI

Альтман сказав, що бачить чітку суперечку між OpenAI та Anthropic, якою керують колишні співробітники OpenAI, які пішли через занепокоєння щодо безпеки. Він підтримує більш м'який регуляторний підхід, ніж генеральний директор Anthropic Дарио Амодей, і відкидає компроміси, які обмежують розвиток передового AI невеликою групою людей у Кремнієвій долині.

OpenAI, Anthropic та інші провідні AI-компанії минулого тижня на саміті в Білому домі з президентом Дональдом Трампом підписали зобов'язання щодо саморегулювання. Альтман також розповів про інциденти автономного хакінгу, регулювання AI та вплив фінансування індустрії на політику США.

Клейтон очолює Super Intelligence Force

Трамп призначив Джей Клейтона, директора національної розвідки та колишнього голови Комісії з цінних паперів і бірж, на керівництво перейменованою Super Intelligence Force. Це призначення розміщує нагляд за AI в структурі апарату національної безпеки США, а не в Департаменті торгівлі чи Міністерстві фінансів.

Старший технологічний репортер POLITICO Брандон Борделон повідомляє, що лобісти OpenAI віддавали перевагу більш громадсько орієнтованому режиму безпеки AI. Він очікує, що призначення Клейтона зосередить більше уваги в політиці AI Білого дому на національній безпеці, що може ускладнити орієнтацію індустрії в регулюванні.

Джерела: Politico