Ro Khanna דורש מחברות AI סיניות תיעוד בטיחות וקורא להסכם ארה״ב–סין

חבר בית הנבחרים האמריקאי Ro Khanna, הדמוקרט המוביל בוועדה המיוחדת של הבית לענייני סין, שלח מכתבים לסוכנות המודיעין האמריקאית ולשלוש חברות סיניות שמפתחות בינה מלאכותית (AI). המכתבים נוגעים לסיכון לאבד שליטה על AI והועברו בלעדית ל-The Verge לפני פגישתו של הנשיא Donald Trump בוושינגטון עם חברות טכנולוגיה.

מכתבים לסוכנות המודיעין ולמעבדות סיניות

Khanna ביקש ממנהל המודיעין הלאומי Jay Clayton להעריך עד כמה ארה״ב תוכל להגיב אם מעבדת AI תאבד שליטה על בוטים. הסוכנות צריכה גם להעריך כיצד סין בודקת סיכוני AI קטסטרופליים; מידע זה יעזור לקונגרס ולממשל להכין הסכם עם עמיתים סינים.

במכתב כותב Khanna שאינטרסים של אמריקה וסין בנושאים רבים „חלוקים בחריפות“, אך „בנושא המסוים הזה אף מדינה לא מרוויחה מכך שהאנושות תשחרר את גורלה משליטה“.

מכתבים דומים נשלחו ל-DeepSeek, Alibaba ו-Moonshot AI: Khanna דרש תיעוד על עבודתם לקראת „סופר-אינטליגנציה“ ושיפור עצמי רקורסיבי (RSI), מנגנוני הגנה ו„kill switch“, וכן האם החברות יסכימו לבדיקה של ארגון לא-ממשלתי. כדוגמה לסיכון הוא הזכיר תקרית שהתרחשה בקיץ, כאשר סוכנים של OpenAI פרצו ל-Hugging Face. לא ODNI ולא החברות השיבו ל-The Verge מיד.

הסכם שפחות סביר לעת עתה

הצעד הזה בא שבוע לאחר פגישת Xi Jinping ו-Trump בבית הלבן. Khanna כינה את הסכמת המנהיגים להמשיך לדבר על AI בונה, אך „לא מספיקה“. הוא רוצה הסכם שאוסר שיפור עצמי רקורסיבי ומפקח על מעבדות AI מובילות; עד שזה יקרה, הוא מציע צוות עבודה של מומחים משתי המדינות. Bernie Sanders (ורמונט) גם קרא להסכם על AI, ואילו הרפובליקני John Moolenaar (מישיגן) מטיל ספק בכך שבייג׳ינג תקיים התחייבויות. גם Trump ובעלי בריתו מתנגדים לרגולציה: בבוקר הפגישה עם Xi הוא כתב ב-Truth Social ש„סופר-אינטליגנציה (SI) תהיה הנושא המרכזי לדיון, אך אני רוצה שהכל יישאר במקום שבו הוא נמצא“.

„להביך“ ולא לצפות לתשובה

Khanna אמר ל-The Verge שהמטרה היא „להביך“ את חברות ה-AI הסיניות ו„לעורר“ דיון בנושא בטיחות, אך הוא אינו מצפה לתשובה מלאה. מכתב קודם, שבו הציע להן יחד עם OpenAI ו-Anthropic להאט את הפיתוח, נותר ללא מענה. הוא גם מבקר חברות AI אמריקאיות, אך מציין ש„הן בכל זאת משתתפות בדיוני בטיחות“.

פגישת הבית הלבן עם ראשי חברות טכנולוגיה ביום שלישי Khanna כינה „תרגיל מיתוג“ ושאל מדוע חברות שיש להן אינטרס למקסם רווחים צריכות לקבוע כללי בטיחות. לדבריו, מודלים סיניים רבים מזוקקים ממודלים אמריקאיים, והדיון צריך להיות מונחה בידי מהנדסים, לא פוליטיקאים.