США були на межі конфлікту через хибний ШІ-звіт розвідки — CNN

Цієї весни, під час війни з Іраном, американські військові опинилися за крок від збройного конфлікту через звіт розвідки, підготовлений із застосуванням штучного інтелекту, який, за словами джерел, був фальшивим. CNN 18 вересня повідомила, що цей звіт, який поширювався в армії США, стверджував: китайське судно на Близькому Сході перевозить компоненти програми ядерної зброї.

За даними чотирьох джерел, військові перейшли до дій і планували перехопити судно. Двоє з них кажуть, що озброєні військовослужбовці готувалися піднятися на борт, а військова авіація вже була в повітрі. Лише незадовго до запланованої операції офіційні особи перевірили звіт глибше і з'ясували, що його підготував аналітик командування спеціальних операцій за допомогою ШІ, а чатбот неправильно визначив матеріал, який перевозило судно. Одне з джерел назвало звіт цілком фальшивим і додало, що він «майже розпочав війну».

Де в ланцюжку з'явився штучний інтелект

Аналітик запитав у чатбота про дані щодо маніфесту судна, які походили від Тихоокеанського командування спеціальних операцій США з Гаваїв. Незрозуміло, чи чатбот був комерційним продуктом, чи державним. Він поєднав розвідку з відкритих джерел із секретною радіоелектронною розвідкою уряду та дійшов висновку про вантаж. Потім аналітик знову скористався ШІ, щоб оформити результати як стандартний звіт розвідки, якому довіряють військові, та поширив його.

«Внутрішні інструменти здебільшого просто копії комерційних продуктів, лише з помадою», — сказав CNN колишній високопосадовець США, обізнаний із системами ШІ, які використовують військові та розвідувальні аналітики. Тихоокеанське командування спеціальних операцій і Пентагон на запит про коментар не відповіли.

Тиск на користь ШІ та відсутність єдиних стандартів

Аргумент на користь швидкого впровадження — швидкість: ШІ має допомагати командирам вирішувати, які цілі уражати або куди переміщати сили. У січні міністр оборони Піт Гегсет оприлюднив Стратегію прискорення штучного інтелекту, щоб дати доступ до ШІ трьом мільйонам працівників відомства на всіх рівнях допуску.

Однак, за словами кількох американських посадовців, зусилля децентралізовані: різні частини уряду використовують різні інструменти за різними наказами й стандартами безпеки, і немає єдиного набору правил для перевірки того, що ці інструменти видають.

Джерела кажуть, що подібна галюцинація не була поодиноким випадком відтоді, як ці інструменти поширилися в уряді. Деякі старші посадовці розвідки зазначають, що ШІ посилив тиск на аналітиків, аби ті готували й поширювали розвідку швидше, що відкриває шлях до помилок, а молодші аналітики, за словами кількох джерел, виросли на цих інструментах і схильні довіряти їм без критики. «ШІ дозволяє швидше дійти до поганої ідеї», — сказав одне із джерел. Інше джерело каже, що використання ШІ для вибору цілей зростає, а реальних настанов, як присутність людини запобігатиме втратам серед цивільних чи вогню по своїх, немає.