נגישות ל-AI כמעט מבטלת את הנכונות של אנשים לומר "אני לא יודע"

מחקר חדש שפורסם בשרת הקדם-הדפסות arXiv מראה שעצם הנגישות לעצות של בינה מלאכותית (AI) כמעט מוחקת את הנכונות של אנשים לומר "אני לא יודע". בחמישה ניסויים, שבהם השתתפו 3,132 משתתפים, השיבו המשתתפים לשישה שאלות קשות ויכלו תמיד לוותר על תשובה. המחקר טרם עבר ביקורת עמיתים.

השאלות עסקו בפרטים חזותיים קטנים מתוך סרטים, למשל צבע המדים של אחת הקבוצות בסרט "Bend It Like Beckham". החוקרים בחרו אותן בכוונה כך שהמודל שבו השתמשו טעה כמעט תמיד: פרטים כאלה נדירים בטקסטים באינטרנט, ולכן הם מטרה נוחה להזיות. כך הצליחו החוקרים להפריד בין השימוש ב-AI לבין איכות העצה.

"אני לא יודע" כמעט נעלם

בניסוי הראשון נמנעו משתתפים שעבדו ללא AI מלהשיב ב-36% מהמקרים, ואילו מי שיכלו להיוועץ במודל נמנעו רק ב-6%. בשכפול נפרד היו הנתונים חדים עוד יותר: 44% לעומת 3%. בסך הכול השיבו העובדים לבדם נכון ב-27.5% מהמקרים, ואילו בעלי הגישה ל-AI רק ב-9.2%. במקביל, הביטחון העצמי שלהם כמעט הוכפל. לפי המחבר-שותף ואלריו קפררו, שבריאיון ל-IBM Think סיפר שהדיוק ירד פי שלושה והביטחון עלה פי 2.5.

כסף מחזיר חלק מהזהירות

בשלושה ניסויים נתנו החוקרים תגמול כספי על תשובה נכונה, קנס על תשובה שגויה, וכלום על ויתור. בתנאים האלה חיפשו המשתתפים עצות AI פחות, השיבו נכון יותר, ובשני ניסויים נטו משמעותית יותר להימנע מתשובה. אף על פי כן, בעלי הגישה ל-AI עדיין אמרו "אני לא יודע" הרבה פחות מאלה שעבדו בלעדיו.

למה זה חשוב

החוקרים לא קבעו מה הסיבה לתופעה. אחת ההשערות היא שתשובת AI מורידה את הסף המטקוגניטיבי, כלומר את רמת הביטחון שאדם זקוק לה לפני שהוא מתחייב לתשובה. האפקט נשמר גם כשהעצה הופיעה אוטומטית, בלי שביקשו אותה. זה חשוב בעידן שבו מנועי חיפוש, עוזרי כתיבה והשלמה אוטומטית מציעים הצעות ביוזמתם. קפררו מדגיש: "הספק אינו כישלון של הידע. לעתים קרובות דווקא ממנו מתחיל הידע". המחברים מזהירים שהשאלות היו אזוטריות, ההימור נמוך והמודל נבחר בכוונה כחלש, ולכן התוצאות עשויות להיות שונות כשהעצה מדויקת בדרך כלל.