Sohbet botları yürüyüşçüleri tehlikeli sonuçlarla yanlış yönlendiriyor

Kısmen Google'ın yapay zekâ sohbet botu Gemini'ye güvenen üç yürüyüşçü, Kuzey Kaliforniya'daki Mount Shasta'da bir dizi tehlikeli kararın ardından kayalık bir yamaçtan yardım istedi. Görevliler, başka ziyaretçilerin de vahşi doğada kötü seçimler yapmak için yapay zekâ araçlarını kullandığını söylüyor; yapay zekâ kullanımının artmasının vahşi doğa kazalarını veya kurtarma operasyonlarını artırıp artırmayacağı ise belirsiz.

Mount Shasta'da kötü kararlar

Üç 20 yaşındaki genç yardım istediklerinde yeterince yiyecek getirmemiş, kondisyonlarını abartmış ve karanlıkta inişe geçmeden önce saat 19.30'da zirveye çıkmıştı. Daha sonra hazırlık eksikliklerinin ve kötü planlamanın kısmen Gemini'ye güvenmekten kaynaklandığını kabul ettiler. Sabah olduğunda bir yürüyüşçünün dizi yaralanmış ve grup dağın zor bir bölümünde kaybolmuştu.

Nick Meyers, Mount Shasta Vahşi Doğa Tırmanış ve Çığ Merkezi'nin ABD Orman Servisi program yöneticisi, yürüyüşçülerin yolculuklarını araştırmaya çalıştığını ancak “bir nevi akıllarını kapattıklarını” söyledi. Ekibi ayrıca “Kamp Yapılmaz” tabelasının yakınına çadır kuran ve yapay zekâ kendisine yapabileceğini söyledi diye buna hakkı olduğunu iddia eden bir ziyaretçiyle ve yakındaki bir dağın yanlış tarafında belirgin yerleri gösteren yapay zekâ tarafından üretilmiş bir haritayla patika başında bulunan bir adamla da karşılaştı.

Diğer kurtarmalar ve artan yapay zekâ kullanımı

Britanya Kolumbiyası'nda bir helikopter ekibi Crown Mountain'un arkasındaki Widowmaker Arete'de bir çıkıntıdan 16 yaşındaki bir yürüyüşçüyü kurtardı. Genç, yolculuğu planlamaya yardımcı olması için Anthropic'in sohbet botu Claude'u kullanmıştı; ancak daha sonra Google Maps ve AllTrails yürüyüş uygulamasına da baktığını söyledi. Wyoming'deki Grand Teton Ulusal Parkı'nda Müdür Chip Jenkins, seyahat bilgisi için yapay zekâ kullanımını bildiren ziyaretçilerin oranının geçen yıl sıfırdan yüzde 26'ya yükseldiğini söyledi.

Meyers ofisinin her yıl ortalama bir düzine kurtarma yaptığını ve 2026'nın da ortalama bir yıl olacağı yönünde ilerlediğini söyledi. Wyoming'de arama kurtarma çağrıları 2025'e kıyasla azaldı; 2026'da şu ana kadar 312 çağrı yapıldı, 2025'te 466 ve 2024'te 377 çağrı vardı. Bazı arama kurtarma veteranları, yapay zekâ sohbet botlarının insanlara başlarını belaya sokmaları için yeni yollar sunan en son araçlar olduğunu söylüyor; daha önce sosyal medya, Google Maps veya akıllı telefon bağlantısına güvenilmişti.

“Bilişsel teslimiyet” riskleri

Yapay zekâ ve arama kurtarma konularını araştırmış Clemson Üniversitesi insan merkezli bilgi işlem profesörü Chris Flathmann, sohbet botlarının yanlış bilgiyi ikna edici biçimde gerçek gibi sunarak halüsinasyon görebileceğini söyledi. Kullanımları ayrıca insanların kendi başlarına eleştirel düşünmeyi bırakmasına yol açan “bilişsel teslimiyet”e de neden olabilir, dedi. Bir yapay zekâ sistemi aşina olunmayan bir konuda uzmanmış gibi davrandığında kullanıcılar onu sorgulayacak uzmanlığa sahip olmayabilir ve stresli bir vahşi doğa durumunda eleştirel düşünmeye geri dönmek zor olabilir.

Flathmann ve diğerleri, sohbet botlarının kaynaklarının güvenilir olup olmadığına bakmaksızın kullanıcılara duymak istediklerini otoriter bir tonla söyleme eğiliminde olduğunu söyledi. Claude veya ChatGPT, inandırıcı görünen ancak Reddit başlıklarından ve güncel olmayan YouTube videolarından derlenmiş, hatta tamamen uydurulmuş olabilecek kapsamlı yol tarifleri üretebilir. Flathmann, yapay zekânın yalnızca ilham vermek yerine doğru veya yanlış talimatlar ve ayrıca cesaretlendirme sunma eğiliminde olduğunu söyledi.

Çıkmadan önce bilgiyi kontrol etmek

Uzmanlar yeni bir yere gidecek kişilerin bilgileri güncel kamu arazisi kurumu haritaları ve web siteleri, patika derneği web siteleri veya rehber kitaplar gibi güvenilir ve yetkili kaynaklarla çapraz kontrol etmelerini öneriyor. Daha da iyisi, diyorlar, gerçek bir rehberle, ulusal orman görevlisiyle veya park korucusuyla konuşmaktır. Meyers, “Sizi öldürebilecek yerlere girecekseniz planlamanızı ciddiye almalısınız.” dedi.

Kaynaklar: Wired