OpenAI ו-Anthropic קראו למחוקקים הבריטים לקבוע כללי AI מחייבים

עימות בין מנהיגי AI

נציגי OpenAI ו-Anthropic אמרו לוועדה הפרלמנטרית הבריטית שהתחייבויות הבטיחות ההתנדבותיות כבר אינן מספיקות ושיש צורך בחוקים מחייבים. זה העמיק את העימות עם Google DeepMind ו-Meta, שלא תמכו ברגולציה חדשה.

הוועדה המקצועית שמעה ארבע חברות AI מובילות, ארבע עובדים לשעבר שהתנגדו לחברות ובכירים ציבוריים. ראש אירופה ב-Anthropic, Liam Booth-Smith, אמר שהחברה "מאמינה בהתמדה שיש לקבוע כללים מחייבים על חברות ושהתחייבויות התנדבותיות אינן מספיקות". סגן נשיא OpenAI, Tom Duff Gordon, תמך במסגרת חוקית ובאמנה בינלאומית, ואמר ש"חלק מהאלמנטים צריכים להיות מחייבים", החל עם דיווח על תקריות.

מתחריהם לא הצטרפו. כשנשאל אם הוא תומך במסגרת חוקית, Owen Larter מ-Google DeepMind אמר שהחברה מתמקדת בתקנים. Rob Sherman מ-Meta ציין את הרגולטורים הקיימים בבריטניה ואמר לפרלמנטרים שהם "לא כותבים על דף ריק".

משטר התנדבותי

בכירים ציבוריים הודו עד כמה מוגבלת המערכת הפעילה. המכון הביטחוני ל-AI של בריטניה (AISI) בודק מודלים מובילים לפני השקתם, אך רק כאשר חברות מוסרות אותם מעצמן. הדירקטור שלו, Henry de Zwart, הודה שהמכון תלוי לחלוטין בשיתופי פעולה של חברות וממשלות זרות. הבכיר במשרד הקבינט, Kate Little, אישר שהמשטר הוא התנדבותי: "כרגע, כן, זה כך".

De Zwart הודה של-AISI אין סמכות לעצור חברה שלדעתו משחררת מודל מסוכן מדי, ואמר שהוא לא מנפיק אישורים למודלים. הוא ציין שחברות המובילות הן אמריקאיות או סיניות וש"לנו, כמו בריטניה, יש יכולות מוגבלות". המנהיגים הבהירו שגישת בריטניה לוושינגטון מגיעה, ו-OpenAI אמר שתמשיך לשתף מודלים עם AISI "כל עוד ניתן לעשות זאת בתנאי ממשלת ארה"ב".

מבקרים ואזהרות

ארבעה חוקרים לשעבר ממעבדות העידו, בהם עובד OpenAI לשעבר Daniel Kokotajlo, שאמר: "אני לא חושב שאפשר יהיה לתת אמונ בהסתפקות העצמית של חברות". Stephen Adler, שעזב את OpenAI בסוף 2024, אמר שלא היה בטוח בתרבות הבטיחות של התעשייה. Jeffrey Irving אמר שמעבדות חושבות באופן לא נכון שהן נמצאות במרוץ שהממשלות לא יפסיקו.

השמיעה חפפה על אזהרתו של דירקטור MI5, Ken McCallum, ש-AI יכול "לשנות גנים בנשק ביולוגי קיים או אפילו חדש". יו"ר הוועדה, Liam Byrne, אמר שהניגוד בין אזהרה זו לבין המשטר ההתנדבותי "אומר את כל מה שצריך לדעת". הוא מקווה שהשרים ישתמשו בנשיאות העתידית של G20 בבריטניה, יחד עם דרום קוריאה, כדי לחתום על אמנה בינלאומית שלא תהיה תלויה בבית הלבן הנוכחי, והזהיר ש"הסיכונים ליכולת שלנו לשלוט במשטר הבטיחות שלנו גדלים במהירות".

מקורות: Wired Ai