צ'אטבוטים מובילים מטיילים שולל, עם השלכות מסוכנות

שלושה מטיילים שהסתמכו חלקית על צ'אטבוט הבינה המלאכותית Gemini של Google הזעיקו עזרה לאחר שורה של החלטות מסוכנות ב-Mount Shasta שבצפון קליפורניה. גורמים רשמיים אומרים שמבקרים אחרים השתמשו בכלי AI כדי לקבל החלטות גרועות בשטח פראי, ולא ברור אם העלייה בשימוש ב-AI תגביר תאונות או חילוצים.

החלטות גרועות ב-Mount Shasta

כשהשלושה, בני 20, הזעיקו עזרה מפני סלע, הם לא הביאו מספיק אוכל, העריכו יתר על המידה את כושרם, והגיעו לפסגה ב-19:30 לפני שירדו בחושך. הם הודו שחוסר ההכנה והתכנון הלקוי נבעו בחלקם מהסתמכות על Gemini. עד הבוקר אחד נפצע בברך והקבוצה הלכה לאיבוד בחלק קשה של ההר.

Nick Meyers, מנהל תוכנית ב-US Forest Service במרכז Mount Shasta Wilderness Climbing and Avalanche Center, אמר שהמטיילים ניסו לחקור את הטיול אבל ״כיבו את המוח״. צוותו נתקל במבקרת שהקימה אוהל ליד שלט ״אין לינה״ והתעקשה שיש לה זכות לכך מפני ש-AI אמרה לה שכן, ובגבר בראש שביל עם מפה שנוצרה ב-AI והציגה מאפיינים בולטים בצד הלא נכון של הר סמוך.

חילוצים נוספים ועלייה בשימוש ב-AI

בבריטיש קולומביה חילץ צוות מסוק מטייל בן 16 ממצוק ב-Widowmaker Arete שבצד האחורי של Crown Mountain. הנער השתמש ב-Claude של Anthropic לתכנון הטיול, אך אמר שהתייעץ גם ב-Google Maps ובאפליקציית AllTrails. בפארק Grand Teton בוויומינג אמר מנהל הפארק Chip Jenkins שחלק המבקרים שדיווחו על שימוש ב-AI למידע נסיעות עלה מאפס ל-26 אחוז בשנה האחרונה.

Meyers אמר שמשרדו מבצע בממוצע תריסר חילוצים בשנה, ו-2026 מתגבשת כשנה ממוצעת. קריאות לחיפוש והצלה בוויומינג ירדו לעומת 2025: 312 קריאות עד כה ב-2026, לעומת 466 ב-2025 ו-377 ב-2024. כמה ותיקי חיפוש והצלה אומרים שצ'אטבוטים של AI הם רק הכלים החדשים שנותנים דרכים חדשות להסתבך, אחרי הסתמכות על מדיה חברתית, Google Maps או קישוריות סמארטפון.

סיכונים של ״כניעה קוגניטיבית״

Chris Flathmann, פרופסור למחשוב ממוקד אדם באוניברסיטת Clemson שחקר AI וחיפוש והצלה, אמר שצ'אטבוטים עלולים להזות על ידי הצגה משכנעת של מידע שגוי כאמת. השימוש בהם עלול להוביל ל״כניעה קוגניטיבית״, שבה אנשים מפסיקים לחשוב ביקורתית בעצמם. כשמערכת AI מעמידה פנים שהיא מומחית בנושא לא מוכר, למשתמשים אולי אין מומחיות לאתגר אותה, וקשה לחדש חשיבה ביקורתית במצב שטח מלחיץ.

צ'אטבוטים גם נוטים לומר למשתמשים מה שהם רוצים לשמוע בסמכותיות, ללא קשר לאמינות המקורות, אמרו Flathmann ואחרים. Claude או ChatGPT עלולים להפיק הוראות מפורטות שנשמעות אמינות אך נאספו משרשורי Reddit ומסרטוני YouTube מיושנים, ואולי אף הומצאו לחלוטין. Flathmann אמר ש-AI נוטה להציע הוראות, נכונות או שגויות, וגם עידוד, ולא רק השראה.

בדיקת מידע לפני היציאה

מומחים מייעצים לבדוק מידע מול מקורות אמינים וסמכותיים כמו מפות ואתרים עדכניים של סוכנויות קרקעות ציבוריות, אתרי ארגוני שבילים או מדריכי טיולים. טוב יותר לשוחח עם מדריך אמיתי, פקיד יער לאומי או פקח פארק. Meyers אמר: ״אם נכנסים למקומות שיהרגו אתכם, צריך לקחת את התכנון ברצינות.״

מקורות: Wired