AI Halüsinasyonları: Kullanıcılar ChatGPT'ye Personelin Özerine Fazla Güveniyor

The Verge, 2 Ekim'de AI halüsinasyonlarının hizmet sektörünü nasıl değiştirdiğine dair bir haber yayımladı. Servis çalışanlarının ifadesine göre, kullanıcılar ChatGPT'nin yanıtlarını güvenilir bilgi olarak kabul ediyor ve bilgi yanlış olduğunda bile çalışanla tartışıyorlar. Habere göre, üretken AI'nın kitlesel yaygınlaşması, kullanıcının her zaman haklı olduğu kuralını değiştiriyor.

Alerji Uyarısı ve Uydurma Şaraplar

Madison, New York'taki bir restoranson garsonu, her masaya alerji hakkında soru soruyor. Mantara alerjisi olan müşteriler son zamanlarda et suyunun bile mantarlardan yapıldığı bir yemek sipariş ettiler. Uyarılara rağmen, ChatGPT'yi küçümsüyorlar: „Mantara alerjiniz var, ChatGPT ise yemekte mantar olmadığını söylüyor, biz ise var diyoruz!"

Michelin ödüllü İtalyan restoranında misafirler şarap hakkında somelye yerine ChatGPT'ye soru soruyor. Somelyenin yardım teklifine sıklıkla şu yanıtı veriyorlar: „Ben sadece ChatGPT'ye soruyorum". Kimisi var olmayan şaraplar istiyor. Çalışanları sonucu yumuşakça bildiriyor ve şarap listesinin çok spesifik olduğunu, doğrudan söylemek yerine chatbot'un markayı uydurduğunu söylüyorlar.

Uydurma Kamp Alanları ve Uyku Programı

Sorun restoranlarla sınırlı değil. Nehir korucusu Jason federal arazilerde çalışıyor ve parkta AI tarafından oluşturulmuş rotalarla daha sık ziyaretçilerin geldiğini söylüyor; bu rotalarda kamp alanları uydurma ve konumlar yanlış yerleştirilmiş. „AI kullanıcılarının bir kısmı ChatGPT'yi park korucularına, haritalara ve basılı rehberlere fazla güveniyor", diyor. Bazı gruplar park korucusu haritadaki hatayı gösterdiğinde bile şüphelenmiyor.

Casey, New York'taki bir lise programı öğretmeni, ebeveynlerin çocuk gelişimi sorularını daha sık ChatGPT'ye veya Claude'ya sorduğunu söylüyor. Bir aileye ChatGPT uyku programı oluşturdu, ancak çocuk yeterince uyuyamadı; Casey'e göre, çocuğa 2-3 saat daha fazla uykuya ihtiyacı vardı, ancak ebeveynler ChatGPT'nin programının doğru olduğunu ileri sürdü.

Rezervasyon Taleplerinde AI Ajanları

Lauren Wilford, yiyecek içecek sektöründe 15 yıldır çalışıyor: Göre göre, misafirler menü fotoğrafını ChatGPT'ye veya Claude'ya yüklüyor ve garson yerine chatbot'tan tavsiye alıyor. Restoranı rezervasyon taleplerini AI ajanlarından da alıyor. Wilford şok oldu: Normalde detaylara önem vermeyen bir müşteri, etkinlikten bir gün önce restoranda bulunmayan tribünler ve AV ekipmanı talep etti. Ertesi gün müşteriler geldi ve talepleri anmadılar; Wilford, bunları bir AI ajanın gönderdiğinden şüpheleniyor.

Neden Bu Önemli

Tablo daha geniş: Sinema çalışanları, baristalar ve Apple Store çalışanları, müşterilerin var olmayan ürünler istediğini belirtiyor; Reddit'ta ve X'te ise müşteriler ChatGPT'nin yanıtlarını koşulsuz güveniyor. Habere göre, Meta'nın yeni AI ajanı Muse'un piyasaya sürülmesi sorunu daha da büyütecek. Wilford, AI ajanlarını kullanma nedenlerini paylaşıyor, ancak özellikle iki insanın bir sorunu birlikte çözdüğü anın değerli olduğunu söylüyor.