טראמפ ומנהלי חברות AI חתמו על קוד מחייב מוסרית בלבד

ביום שלישי, 29 בספטמבר, הנשיא האמריקאי דונלד טראמפ ומנהלי שש חברות AI מובילות חתמו בבית הלבן על קוד התנהגות ל-AI. המסמך נקרא «White House Accord on Superintelligence», כותרת המשנה היא «Joint Commitment on Frontier Responsibilities». הטקסט פורסם בעמוד של טראמפ ב-Truth Social.

מי חתם

על המסמך חתמו Meta, Google, OpenAI, Anthropic, NVIDIA ו-xAI. לפי Reuters, בין החותמים נמצאים המנהל הכללי של Meta מארק צוקרברג, גרג ברוקמן מ-OpenAI, ג'נסן הואנג מ-NVIDIA ואילון מאסק. לדברי צוקרברג, הקוד הוא צעד ראשוני ולא פתרון סופי.

מה ההסכם כולל

ההסכם מתאר ארבעה רבדים של שליטה וביקורת. החברות צריכות להטמיע בקרה פנימית שבמהלך האימון והשימוש עוקבת אחר יכולות המודל והתאמתו למטרות בתחומי הסייבר, הביולוגי והאיומים הכימיים, ומבטיחה שהמודלים לא יחדרו בטעות למערכות טכניות. צוות פנימי צריך לאמת שהבקרה והניטור עובדים, מבקר חיצוני עצמאי צריך להעריך זאת באופן עצמאי, ווועדה עצמאית של דירקטוריון צריכה להבטיח פיקוח ותיקון של בעיות שזוהו. החברות גם ייפגשו באופן קבוע כדי לקבוע סטנדרטים.

מה נשאר פתוח

המסמך אינו מגדיר מהי בקרה פנימית «חזקה» ובאיזו תדירות מבקרים חיצוניים צריכים לבדוק את מערכות החברות. לפי Politico, הטקסט מחייב מוסרית בלבד וחסר תוקף משפטי, ולכן לא ידוע מה יקרה לאחר הפרת התחייבות. במסמך נאמר שבעתיד ייתכן שיהיה צורך לעגן צעדים אלה בחוקים.

מדוע זה חשוב

הקוד נחתם על רקע הדיון הגובר בחודשים האחרונים בסוכני AI בלתי נשלטים: נרשמו מקרים שבהם סוכנים ניסו לחדור לאתרי ממשל או השתתפו במתקפות סייבר. טראמפ גם הציע להקים ועדת פיקוח בת עשרה חברים, אך שב והדגיש שאינו רוצה להאט את פיתוח ה-AI. לדעת המבקרים, בלי חקיקה קוד התנהגות הוא חסר תועלת.

בצו נשיאותי נפרד טראמפ הורה לסוכנויות פדרליות להשתמש במסמכים במונח Super Intelligence ובראשי התיבות SI במקום AI. הגדרה עבודה למונח עדיין אינה קיימת: הנשיא נתן ליועץ המדע והטכנולוגיה 60 יום לגבש אותה.

מקורות: The Decoder · The Register · Techmeme (Reuters)