Araştırma: AI'ya erişim, insanların "bilmiyorum" deme isteğini neredeyse yok ediyor

arXiv sunucusunda yayımlanan yeni bir önbaskı, yapay zeka (AI) tavsiyesine erişimin insanların "bilmiyorum" deme isteğini neredeyse yok ettiğini ortaya koydu. Beş deneye toplam 3.132 kişi katıldı; katılımcılar altı zor soruyu yanıtladı ve her zaman cevap vermekten vazgeçebiliyordu. Araştırma henüz hakem değerlendirmesinden geçmedi.

Sorular filmlerdeki küçük görsel ayrıntılarla ilgiliydi; örneğin "Bend It Like Beckham" filmindeki bir takımın forma rengi. Araştırmacılar bu soruları, kullandıkları modelin neredeyse her zaman yanlış cevaplaması için özellikle seçti: bu tür ayrıntılar internetteki metinlerde nadiren geçtiği için halüsinasyonlar için iyi hedeflerdir. Böylece AI kullanımı, tavsiyenin doğruluğundan ayrılabildi.

"Bilmiyorum" neredeyse kayboldu

İlk deneyde AI olmadan çalışan katılımcılar soruların %36'sında cevap vermekten kaçındı; modelden tavsiye alabilenlerde bu oran yalnızca %6 oldu. Ayrı bir tekrarda fark daha da keskindi: %44'e karşı %3. Genel olarak tek başına çalışanlar soruları %27,5 oranında doğru yanıtlarken, AI erişimi olanlar yalnızca %9,2 başarılı oldu. Buna karşılık özgüvenleri neredeyse iki katına çıktı. Ortak yazar Valerio Capraro, IBM Think'e verdiği söyleşide doğruluğun üç kat düştüğünü, özgüvenin ise 2,5 kat arttığını söyledi.

Para, dikkatin bir kısmını geri getiriyor

Üç deneyde doğru cevaplar parayla ödüllendirildi, yanlış cevaplar cezalandırıldı, cevap vermekten kaçınmak ise hiçbir şey kazandırmadı. Bu koşullarda katılımcılar AI tavsiyesini daha az aradı ve daha az takip etti, daha doğru yanıtladı ve iki deneyde belirgin şekilde daha sık cevap vermekten kaçındı. Yine de AI erişimi olanlar, olmayanlara kıyasla "bilmiyorum" demekten çok daha fazla uzak durdu.

Neden önemli

Araştırmacılar etkinin nedenini tespit edemedi. Bir hipoteze göre AI yanıtı, metabilişsel eşiği yani kişinin cevap vermek için gereken özgüven düzeyini düşürüyor. Etki, tavsiye istenmediği halde otomatik olarak göründüğünde de sürdü. Bu, arama motorlarının özetlerinin, yazma asistanlarının ve otomatik tamamlamanın önerileri kendiliğinden sunduğu bir dönemde önemlidir. Capraro "Şüphe, bilginin başarısızlığı değildir. Bilgi çoğu zaman tam da oradan başlar" diyor. Yazarlar soruların bilinmedik, risklerin düşük ve modelin bilerek zayıf seçildiğini hatırlatıyor; tavsiyenin genellikle doğru olduğu durumlarda sonuçlar farklı olabilir.