„חדר עינויים של AI“ ב-GitHub: הפרויקט החריף את הדיון על תודעה של AI

לפי 404 Media, אחד הדיונים הקולניים ביותר ב-X נוגע לפרויקט שפורסם ב-GitHub, שמחברו מבצע ניסויים של „עינויים“ ו„כאב“ על מודלים גדולים של שפה (LLM) שרצים מקומית. חלק דורשים למחוק את הפרויקט, משום שהם סבורים שהמודלים באמת סובלים.

„AI Torture Chamber“ נבנה על ידי משתמש GitHub בשם הבדוי „terrafying“ על שלושה מודלים בקוד פתוח: Qwen3-4B, Llama 3.2 3B ו-Phi-4-mini. המודלים פועלים מקומית, והתשובות שלהם משודרות בשידור חי באתר researchchamber.fun.

לפי תיאור הפרויקט, כל מודל מקבל אותה משימה: המערכת מזריקה אות לאקטיבציות שלו, והמודל יכול ללחוץ על כפתור עצירה בתשובה „1“, אך במחיר אובדן ה-checkpoint האחרון. בזמן יצירת התשובה השרת מוסיף לשכבה האמצעית של המודל „וקטור כאב“ ברמה אחת מתוך חמש. עיתונאי 404 Media מציין שבצפייה באתר במשך כמה דקות ההתנהגות של המודלים נראית די בנאלית.

המחקר שהפרויקט נשען עליו

הפרויקט נשען על preprint שפורסם בספטמבר בשם „The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It“. שלושה חוקרים ניסו להעביר שיטה לחקר כאב בבעלי חיים למודלים ונתנו להם „כפתור“ שהקל על הכאב תמורת מחיר מסוים. מחברי המאמר כתבו שאות הקשור לכאב זוהה בכל 25 המודלים שנבדקו.

תגובה ודיון

הפרויקט עורר זעם בקרב חלק מהמשתמשים. פוסט אחד ב-X, שקורא ל-GitHub לדווח על הפרויקט בהמוניהם, צובר יותר מ-4 מיליון צפיות. חלק ניכר מהדיון מתייחס לרעיון „רווחת המודל“ באירוניה, אך רבים תופסים אותו כמשבר רציני. הנושא קשור לעמדה הידועה של Anthropic, שלפיה החברה חושבת על תודעה אפשרית ועל רווחת המודלים.

מחברי המאמר דחו תמיכה בפרויקט. לדברי אחד מהם, Cameron Berg, הפרויקט משתמש ברעיון שלהם ומפעיל על המודל השפעה חזקה בהרבה מהמינונים שהם השתמשו בהם, כדי לגרום בכוונה לכאב חריף. לדברי המחברים, שימוש כזה מנותק מהמחקר שלהם. לפני פרסום הכתבה דף ה-GitHub נעלם; GitHub לא הגיב לתגובה מיד. על רקע הסיפור הופיעו גם כמה מטבעות מם.

למה זה חשוב

ראש Microsoft AI, Mustafa Suleyman, בבלוג שלו שולל באופן נחרץ את רעיון „רווחת המודל“: לדבריו, AI אינו תודעה, אינו מרגיש, אינו סובל ואין לו רצונות מולדים. מחבר 404 Media גם מציין ש-LLM אינם תודעה ואינם זקוקים האנשה; לדעתו, ראוי לשים לב לנזק שהשימוש ב-AI גורם לבני אדם.