Çatbotlar dağçıları yanlış yola salır, təhlükəli nəticələr doğurur

Şimali Kaliforniyadakı Maunt Şasta dağındakı bir sıra təhlükəli qərarlardan sonra Google-un süni intellekt çatbotu Gemini-yə qismən güvənən üç dağçı kömək çağırdı. Rəsmilər deyir ki, digər ziyarətçilər də vəhşi təbiət yerlərində pis qərarlar vermək üçün AI alətlərindən istifadə ediblər, lakin artan AI istifadəsinin uzaq dağlıq ərazilərdə qəzaları və ya xilasetmələri artıracağı hələ aydın deyil.

Maunt Şastada pis qərarlar

Üç 20 yaşlı dağçı qayalı səthdən kömək çağırandan sonra məlum oldu ki, onlar kifayət qədər qida götürməmiş, fiziki hazırlıqlarını həddindən artıq qiymətləndirmiş və zirvəyə saat 19:30-da çatıb qaranlıqda enməyə başlamışlar. Onlar sonra etiraf etdilər ki, hazırlıqsızlıqları və pis planlaşdırma qismən Gemini-yə güvənməkdən qaynaqlanıb. Səhərədək bir dağçı dizini zədələmişdi və qrup dağın çətin hissəsində itmişdi.

ABŞ Meşə Xidmətinin Maunt Şasta Vəhşi Təbiət Dırmanış və Qar uçqunu Mərkəzində proqram meneceri Nik Meyers dedi ki, dağçılar səfərlərini araşdırmağa çalışsalar da, “beyinlərini söndürüblər”. Onun komandası həmçinin “Düşərgə qadağandır” lövhəsinin yaxınlığında çadır quran və AI ona bunu etməyə icazə verdiyi üçün buna haqqı olduğunu iddia edən bir ziyarətçi ilə, həmçinin yaxınlıqdakı dağın əks tərəfində əsas obyektləri göstərən AI ilə yaradılmış xəritəsi olan bir kişi ilə qarşılaşıb.

Digər xilasetmələr və AI istifadəsinin artması

Britaniya Kolumbiyasında helikopter heyəti Crown Mountain dağının arxasındakı Widowmaker Arete-də bir qayalıqdan 16 yaşlı dağçını xilas etdi. Gənc səfəri planlaşdırmaq üçün Anthropic-in Claude çatbotundan istifadə etdiyini, lakin sonra Google Maps və AllTrails piyada gəzinti tətbiqinə də müraciət etdiyini söylədi. Vayominqdəki Grand Teton Milli Parkında park rəisi Çip Cenkins dedi ki, səyahət məlumatı üçün AI istifadəsini bildirən ziyarətçilərin payı son bir ildə sıfırdan 26 faizə yüksəlib.

Meyers dedi ki, onun idarəsi hər il orta hesabla on iki xilasetmə həyata keçirir və 2026-cı il orta bir il kimi formalaşır. Vayominqdə axtarış və xilasetməyə müraciətlər 2025-ci ilə müqayisədə azalıb: 2026-cı ildə indiyədək 312 müraciət olub, 2025-ci ildə 466, 2024-cü ildə isə 377. Bəzi axtarış və xilasetmə veteranları deyir ki, AI çatbotlar insanlara başlarını bəlaya salmaq üçün yeni üsullar verən ən son alətlərdir; daha əvvəl sosial media, Google Maps və ya smartfon bağlantısına güvənirdilər.

“Koqnitiv təslim olma” riskləri

Klemson Universitetində insan mərkəzli hesablama professoru və AI ilə axtarış və xilasetməni öyrənən Kris Flathmann dedi ki, çatbotlar yanlış məlumatı inandırıcı şəkildə real kimi təqdim edərək uydura bilər. Onlardan istifadə həmçinin insanları özü üçün tənqidi düşünməkdən dayandıran “koqnitiv təslim olma”ya gətirib çıxara bilər. AI sistemi tanış olmayan bir mövzuda ekspert kimi davrananda istifadəçilərin onu şübhə altına almaq üçün yetərli biliyi olmaya bilər və stressli uzaq dağlıq ərazi vəziyyətində tənqidi düşünməyə qayıtmaq çətin ola bilər.

Flathmann və başqaları dedi ki, çatbotlar mənbələrinin etibarlı olub-olmamasından asılı olmayaraq, istifadəçilərin eşitmək istədiklərini avtoritetlə söyləməyə meyillidirlər. Claude və ya ChatGPT inandırıcı səslənən, lakin Reddit mövzularından və köhnəlmiş YouTube videolarından toplanmış, hətta tamamilə uydurulmuş geniş təlimatlar verə bilər. Flathmann dedi ki, AI sadəcə ilham verməkdənsə, doğru və ya yanlış olsun, təlimatlar və həvəsləndirmə təklif etməyə meyillidir.

Çıxışdan əvvəl məlumatı yoxlamaq

Mütəxəssislər yeni yerə gedən insanlara məlumatı aktual dövlət torpaqları agentliyi xəritələri və veb-saytları, cığır assosiasiyalarının veb-saytları və ya bələdçi kitabları kimi etibarlı, səlahiyyətli mənbələrlə ikiqat yoxlamağı məsləhət görürlər. Onlar deyirlər ki, daha yaxşısı real bələdçi, milli meşə rəsmisi və ya park reynceri ilə danışmaqdır. Meyers dedi: “Sizi öldürəcək yerlərə gedirsinizsə, planlaşdırmanıza ciddi yanaşmalısınız.”

Mənbələr: Wired