Співзасновник Facebook пропонує створити «Офіс нагляду за ШІ» в AI-лабораторіях

Співзасновник Facebook Кріс Г'юз закликав запровадити для компаній зі штучного інтелекту такий самий нагляд, як для банків. У колонці, опублікованій Financial Times 23 вересня, він пропонує створити «Офіс нагляду за ШІ» (Office of AI Supervision), який розмістив би державні наглядові команди всередині фронтирних лабораторій ШІ, а самі наглядовці працювали б за трирічними контрактами, щоб уникнути регуляторного захоплення — так переказує текст FT видання Techmeme.

Що передбачає пропозиція

Г'юз, який залишив Facebook у 2007 році, є автором книжки «Marketcrafters: The 100-Year Struggle to Shape the American Economy» і нерезидентним науковим співробітником Brookings Institution. Він доводить, що обидві галузі схожі: вони швидко змінюються й пронизують усю економіку, тож посадовці мають зважувати користь від інновацій та ризики, які вона створює. Замість зовнішнього аудиту лабораторій його офіс мав би посадити державних наглядовців усередину компаній — на фіксований трирічний термін, щоб вони не зблизилися з тими, кого перевіряють.

На що спирається аргумент

Колонка продовжує тезу Даріо Амодея, гендиректора Anthropic, який у вересневому есеї «We Must Pace the Frontier» доводив, що незалежні оцінювачі повинні мати робочі місця всередині AI-компаній. Амодей заявив, що Anthropic в односторонньому порядку надасть зовнішнім рецензентам доступ, порівнянний із доступом внутрішніх команд з ризиків, — столи, перепустки й корпоративні ноутбуки, — а також право публікувати висновки без редакторського контролю компанії, з вузькими винятками. Він прямо порівняв це з банківським наглядом, де регулятори іноді працюють поруч зі співробітниками, і закликав уряди зобов'язати інші фронтирні лабораторії зробити те саме. Сем Альтман з OpenAI сказав, що його компанія зробить так само.

Чому це важливо

Банківський наглядовець може вимагати припинити практику, обмежити зростання установи або в крайньому разі закрити її. Оцінювачі, запропоновані для ШІ-лабораторій, поки що зможуть лише розслідувати й публікувати звіти, але не зупиняти навчання чи випуск моделі — на цю прогалину вказують критики добровільного нагляду. Пропозиція Г'юза йде далі: у лабораторії мають зайти державні команди, а не зовнішні підрядники, і працювати обмежений час. Колонка з'являється в момент, коли уряди сперечаються про те саме: 22 вересня, виступаючи в ООН, президент США Дональд Трамп відкинув міжнародний пакт щодо ризиків ШІ та заявив, що штучний інтелект слід перейменувати на «super intelligence», повідомляє Techmeme.