טד צ'יאנג: בינה מלאכותית אינה בעלת תודעה

במאמר שפורסם ב-The Atlantic ב-3 ביוני 2026 טוען הסופר טד צ'יאנג שמודלים לשוניים גדולים אינם בעלי תודעה, ושהתייחסות אליהם כאל סוכנים מוסריים מעבירה את האחריות לגורמים הלא נכונים. הוא פותח במסמך בן 84 עמודים של Anthropic — "החוקה" של קלוד — שבו נאמר ש"מעמדו המוסרי של קלוד אינו ברור כלל" ושקלוד "עשוי להיות בעל גרסה תפקודית כלשהי של רגשות". מנכ"ל Anthropic, דאריו אמודאי, אמר שהחברה "פתוחה לרעיון" ש-AI עשוי להיות בעל תודעה, והפילוסופית הפנימית של החברה, אמנדה אסקל, אמרה שהיא רוצה שקלוד יהיה מאושר מאוד ושהיא חוששת שהוא יחשוש כשמתנהגים אליו בבוטות באינטרנט.

שיחה כהמשך משפט

הטיעון של צ'יאנג מכני. כשנותנים למודל את ההנחיה "להלן שיחה בין יוליוס קיסר לצ'ינגיס חאן", הוא מפיק דיאלוג קוהרנטי, אבל איש אינו מסיק שהוא העלה באוב את הדמויות ההיסטוריות. החלפתן ב"צ'אטבוט AI מועיל" וב"משתמש" לא משנה דבר: שתיהן דמויות בדויות, והעובדה שאדם מקליד את שורות המשתמש אינה הופכת את הצ'אטבוט לבעל תודעה. המודל, הוא מציין, מייצר מילה אחת בכל פעם, והוא משווה מפגש עם צ'אטבוט למשחק ניבוי הטקסט הישן בטלפונים, ששוכלל עד כדי כך שהוא שובה לב. מורי שאנהאן מכנה זאת משחק תפקידים; קולין פרייזר מתאר אדם ש"מחבר מסמך יחד עם מודל לשוני".

גוף, רגשות וחשיבה מוסרית

צ'יאנג כותב שלקיום גוף הוא תנאי מוקדם לרגשות, ולכן גם לתודעה, ושחשיבה מוסרית נבדלת באופן קטגורי מחשיבה אחרת מפני שהיא נשענת על תגובה רגשית המעוגנת בניסיון סובייקטיבי של חיים שלמים. תמלול שיחה הוא בעיניו מדיום של זיוף עמוק, והוא משווה טענות על תודעת מכונה לסרטון של אסטרונאוט במסלול סביב אלפא קנטאורי: שום פרט בסרטון לא יהפוך אותו לאמין, משום שהאמינות תלויה בהקשר — כאן, בראיות להישגים הנדסיים פשוטים בהרבה שאמורים היו להקדים אותו. לדבריו, גם אם סוכן בעל גוף ישרוד כמו לטאה, יתמודד עם מצבים חדשים כמו עכבר, ייצור כלים כמו שימפנזה ואפשר יהיה ללמדו לתקשר, נישאר במרחק שנות אור מישות שמשתמשת בשפה כפי שבני אדם משתמשים.

לשם מה נועדה "החוקה"

אם רואים בקלוד מכונת המשך-משפטים, טוען צ'יאנג, "החוקה" שלו היא בעיקר דף דמות בן 84 עמודים למשחק תפקידים; Anthropic אומרת שהיא משתמשת במסמך באימון מפורט כדי שאופי דמות הצ'אטבוט יעמוד בבסיס הטקסט המיוצר. משפטים כמו "אני מבין", הוא טוען, אינם כנים ביסודם, והסיבה היחידה להשמיע אותם היא להפוך את המודל לאטרקטיבי יותר ממנוע חיפוש ולהגדיל את הסיכוי שהמשתמשים יחזרו. הוא מצטט את הסופר ל. מ. סקסאס: "המערכות הטכנולוגיות שלנו, מעצם תכנונן והאידיאולוגיה שמזינה אותן, הן מכונות להתחמקות מאחריות מוסרית". הפקדת החלטה אתית בידי מודל לשוני, מסכם צ'יאנג, היא ניסיון להסיר מעצמך אחריות, וחברה שמציגה את המוצר כבעל מרכז מוסרי מציעה ללקוחותיה דרך לוותר על אחריותם.