הסכם בטיחות ה-AI של Trump נשען על ויסות עצמי של חברות
הבית הלבן ושש חברות AI מובילות חתמו על הסכם בטיחות וולונטרי, שאותו הנשיא Trump מכנה „מוסרית מחייב“. במקביל, FTC פתחה בחקירה נגד Anthropic ו-OpenAI בגלל סיכונים לצרכנים.
שש חברות AI מובילות חתמו השבוע עם ממשלת ארה״ב על „הסכם הבית הלבן בנושא Super Intelligence“. המסמך כולל התחייבויות וולונטריות והוא הוכרז לאחר ארוחת ערב שארגן הנשיא Donald Trump. חתמו Google, Anthropic, Meta, OpenAI, xAI ו-NVIDIA; לפי Ars Technica, להסכם הצטרפו עד עשרים חברות טכנולוגיה.
ההסכם קורא לחברות ליישם כמה צעדים: חיזוק בקרה פנימית, הקצאת צוות פנימי למשימה זו, שילוב משקיף חיצוני בלתי תלוי והקמת ועדה לצד מועצת המנהלים. Ars Technica מוסיף שהביקורות יתמקדו באבטחת סייבר, ביטחון ביולוגי, סיכונים כימיים ופעולות בלתי צפויות של מודלי AI. החברות הסכימו גם על פגישות קבועות ועל פיתוח סטנדרטים משותפים.
ללא התחייבויות משפטיות
להסכם אין תוקף משפטי. Trump כינה אותו „מוסרית מחייב“ ואמר שהוא „דומה במידה מסוימת לחוקה“. במסמך נאמר שהמלצות עשויות להיות מוטמעות בחקיקה בעתיד, אך לא ננקבו מועדים. לפי Ars Technica, Anthropic, Google ו-OpenAI כבר קיבלו על עצמן בעבר חובת ביקורות חיצוניות. לא ברור מי יבצע את הביקורת: לפי Bloomberg, Trump משתמש בתהליך פוליטית, וחברות מסוימות לא מבינות מה ייחשב צד שלישי.
מה אומרים ראשי החברות
בבית הלבן כל ששת החתומים שיבחו את התוכנית. Mark Zuckerberg מ-Meta כינה אותה „התחלה והסכם שהתעשייה כולה יכולה להסכים עליו“, Greg Brockman מ-OpenAI אמר שההתחייבויות הופכות את ה-AI למועיל לכולם. Jensen Huang מ-NVIDIA כינה את הרגע „המהפכה התעשייתית הגדולה בהיסטוריה“, ואילו Elon Musk מ-xAI חזה „עידן של שפע“. Dario Amodei מ-Anthropic ציין שלטכנולוגיה „יש סיכונים ממשיים מאוד, והמנגנון שבו אנו מתמודדים איתם עדיין נמצא בתהליך דיון“.
ביקורת וחקירה
המבקרים מטילים ספק אם התחייבויות וולונטריות יוכלו לפתור את הבעיה. מקורות בתעשיית ה-AI אמרו ל-Axios שוויסות עצמי לא יפתור את בעיות הבטיחות בתעשייה. Ars Technica מציין ש-OpenAI, שהסוכנים שלה גרמו לאחרונה לכמה תקריות, עדיין לא יודעת איך לעצור בריחה של AI מסוכן מסביבת אימון. באותו יום FTC הודיעה על חקירה רחבה נגד Anthropic ו-OpenAI על סיכוני נזק לצרכנים באמצעות סוכנים. Neil Chilson, לשעבר הטכנולוג הראשי של FTC, כתב ב-X שהתחייבות כזו יכולה בתיאוריה להיות נאכפת על ידי FTC אם חברה לא תקיים אותה. Douglas Farrar, לשעבר ראש הקשרים עם הציבור ב-FTC, פחות אופטימי: „אני מטיל ספק שאחרי ‚חגיגת האהבה‘ מאתמול עם חברות ה-AI, Trump ינקוט צעדים משפטיים אמיתיים.“
מקורות: WIRED · Ars Technica · The Verge
SiTech — פיתוח אתרים בכוח ה-AI
אנחנו בונים אתרים מהירים ומודרניים ומשלבים AI בתהליכי עבודה אמיתיים. יש לכם פרויקט או שאלה? נשמח לעזור.