Чат-боти збивають туристів зі шляху з небезпечними наслідками

Троє туристів, які частково покладалися на чат-бот штучного інтелекту Gemini від Google, викликали допомогу після низки небезпечних рішень на горі Шаста в Північній Каліфорнії. За словами посадовців, інші відвідувачі також використовували інструменти ШІ для невдалих рішень у дикій природі, тоді як залишається незрозумілим, чи збільшить зростання використання ШІ кількість нещасних випадків або рятувальних операцій у віддалених районах.

Невдалі рішення на горі Шаста

Коли троє 20-річних туристів викликали допомогу зі скелястого схилу, вони не взяли достатньо їжі, переоцінили свою фізичну форму й підкорили вершину о 19:30, а потім спускалися в темряві. Згодом вони визнали, що відсутність підготовки й погане планування частково пов’язані з покладанням на Gemini. До ранку один турист травмував коліно, а група заблукала на складній ділянці гори.

Нік Мейєрс, керівник програми Центру скелелазіння та лавин у дикій природі гори Шаста Служби лісів США, сказав, що туристи намагалися дослідити свою подорож, але «наче вимкнули мізки». Його команда також зустріла відвідувачку, яка поставила намет біля знака «No Camping», наполягаючи, що має на це право, бо так сказав ШІ, а також чоловіка на початку стежки з мапою, створеною ШІ, на якій визначні об’єкти були на хибному боці сусідньої гори.

Інші рятування та зростання використання ШІ

У Британській Колумбії гелікоптерний екіпаж врятував 16-річного туриста з уступу на Widowmaker Arete на звороті Crown Mountain. Підліток використовував чат-бот Claude від Anthropic для планування подорожі, хоча згодом сказав, що також консультувався з Google Maps і застосунком для піших прогулянок AllTrails. У національному парку Grand Teton у штаті Вайомінг суперінтендант Чіп Дженкінс сказав, що частка відвідувачів, які повідомили про використання ШІ для отримання інформації про подорожі, зросла з нуля до 26 відсотків за останній рік.

Мейєрс сказав, що його офіс щороку в середньому здійснює дюжину рятувальних операцій, а 2026 рік виглядає як середній. Кількість викликів до пошуково-рятувальних служб у Вайомінгу зменшилася порівняно з 2025 роком: 312 викликів станом на 2026 рік порівняно з 466 у 2025 році та 377 у 2024 році. Деякі ветерани пошуково-рятувальних служб кажуть, що ШІ-чат-боти є лише новітніми інструментами, які дають людям нові способи потрапляти в неприємності, після ранішої залежності від соціальних мереж, Google Maps або зв’язку смартфонів.

Ризики «когнітивної капітуляції»

Кріс Флатманн, професор людиноцентричних обчислень в Університеті Клемсона, який вивчав ШІ та пошуково-рятувальні операції, сказав, що чат-боти можуть галюцинувати, переконливо подаючи неправдиву інформацію як достовірну. Їхнє використання також може призвести до «когнітивної капітуляції», за якої люди перестають самостійно мислити критично, сказав він. Коли система ШІ видає себе за експерта з незнайомої теми, користувачі можуть не мати достатньої компетенції, щоб поставити її під сумнів, а в стресовій ситуації у віддаленій місцевості може бути важко повернутися до критичного мислення.

Чат-боти також схильні казати користувачам те, що вони хочуть почути, з виглядом авторитетності, незалежно від того, чи надійні їхні джерела, сказали Флатманн та інші. Claude або ChatGPT можуть створити докладні вказівки, що звучать правдоподібно, але взяті з обговорень Reddit і застарілих відео YouTube, а також можуть бути повністю вигаданими. Флатманн сказав, що ШІ схильний пропонувати вказівки, правильні чи ні, а також підбадьорення, а не лише натхнення.

Перевірка інформації перед виходом

Експерти радять людям, які прямують у нове місце, перевіряти інформацію за надійними авторитетними джерелами, такими як актуальні мапи й вебсайти агентств громадських земель, вебсайти асоціацій стежок або путівники. Ще краще, кажуть вони, поговорити з живим провідником, посадовцем національного лісу або рейнджером парку. Мейєрс сказав: «Якщо ви збираєтеся йти в місця, що можуть вас убити, ви повинні ставитися до планування серйозно».

Джерела: Wired