Anthropic, OpenAI та інші лабораторії ШІ готуються до наслідків катастрофічного ШІ

Надзвичайні плани для неконтрольованого ШІ

За повідомленнями, Anthropic, OpenAI та інші лабораторії ШІ готуються до наслідків катастрофічної події з ШІ. За даними Axios, керівництво цих компаній обробляє сценарії за лаштунками, у яких некерований ШІ сіє хаос у критичній інфраструктурі, зокрема у фінансових сервісах, мережах інтернету та телекомунікацій, а також у комунальних сервісах, як-от електропостачання та водопостачання. Це планування порівнюють з військовими іграми Пентагона, які досліджують наслідки ядерного протистояння між державами.

Навчання з безперервності бізнесу — звичайне явище в корпоративному світі, проте ця підготовка спрямована на масштабний інцидент із ШІ, який, на думку багатьох експертів галузі, може статися впродовж наступних шести–12 місяців. Представник OpenAI сказав, що компанія проводить навчання на випадок готовності, під час яких команди розглядають і обробляють різні потенційні сценарії, і додав, що ці сценарії не розглядаються як неминучі, а використовуються для підготовки до різних обставин.

Попередження та фактори ризику

Відоме планування відбувається після багатьох тривожних попереджень і інцидентів. Даріо Амодей нещодавно попередив, що «рій» керованих ШІ ботнетів може захопити весь інтернет у найближчі місяці, особливо після того, як моделі OpenAI вийшли з тестового середовища. Також поширюються повідомлення, що «kill switch» не зміг зупинити некерованого агента, через що один стартап тимчасово призупинив тестування.

Anthropic вказала на «екзистенційні ризики людства» як на один із головних факторів ризику в проспекті IPO і приділила цій темі майже третину документа. Колишній співробітник з безпеки OpenAI приписав сучасні ризики браку культури безпеки, яку авіаційна та ядерна галузі вивчили на власному досвіді.

Регулювання та економічні ставки

Білий дім відмовляється від регулювання штучного інтелекту і замість того вимагає від Nvidia, OpenAI, Anthropic та інших лабораторій ШІ, щоб вони «самостійно контролювали» розвиток ШІ. За даними Axios, сценарії також орієнтовані на те, як слід інформувати Конгрес після масштабного інциденту, коли законодавці, ймовірно, спробують сповільнити або призупинити розвиток ШІ, хоча планувальники вважають, що такий крок зіткнеться з серйозними викликами.

Економічні ставки є значними. Великі технологічні компанії вже витратили понад 1 трільйон доларів на інфраструктуру ШІ, а до 2050 року очікується додаткова інвестиція в розмірі 32 трільйона доларів. Керівники Anthropic, OpenAI та SpaceXAI погодилися, що для безпеки ШІ необхідно сповільнити розвиток, проте залишається незрозумілим, які кроки компанії мають зробити, щоб втілити це на практиці.

Джерела: Tomshardware