מייסד-שותף של פייסבוק מציע "משרד לפיקוח על בינה מלאכותית"

כריס יוז, ממייסדי פייסבוק, קורא להחיל על חברות בינה מלאכותית את סוג הפיקוח שמוחל על בנקים. במאמר דעה שפורסם ב"פייננשל טיימס" ב-23 בספטמבר הוא מציע להקים "משרד לפיקוח על בינה מלאכותית" (Office of AI Supervision), שישתיל צוותי פיקוח ממשלתיים בתוך מעבדות בינה מלאכותית בחזית הטכנולוגיה, כשהמפקחים ימונו לכהונה קצובה של שלוש שנים כדי למנוע השתלטות רגולטורית (regulatory capture) — כך לפי הסיכום של אתר Techmeme.

מה כוללת ההצעה

יוז, שעזב את פייסבוק ב-2007, הוא מחבר הספר "Marketcrafters: The 100-Year Struggle to Shape the American Economy" ועמית חוץ במכון ברוקינגס. לטענתו שני הענפים דומים זה לזה: שניהם משתנים במהירות ומגיעים לכל חלקי המשק, ולכן על הפקידים לאזן בין תועלת החדשנות לבין הסיכונים שהיא יוצרת. במקום לבקר את המעבדות מבחוץ, המשרד שהוא מציע יושיב מפקחים מטעם המדינה בתוך החברות — לתקופה קצובה של שלוש שנים, כדי שלא יתקרבו מדי למי שהם מפקחים עליו.

על איזו טענה הוא נשען

מאמר הדעה ממשיך קו שהתווה דריו אמודאי, מנכ"ל Anthropic, שטען במסתו "We Must Pace the Frontier" מספטמבר כי למעריכים עצמאיים צריכים להיות שולחנות עבודה בתוך חברות ה-AI. אמודאי אמר כי Anthropic תעניק באופן חד-צדדי למעריכים חיצוניים גישה דומה לזו של צוותי הסיכון הפנימיים — שולחנות, תגי כניסה ומחשבים ניידים של החברה — וכן את הזכות לפרסם ממצאים בלי שליטה מערכתית של החברה, בכפוף לצמצומים מוגבלים. הוא השווה את המתווה לפיקוח הבנקאי, שבו רגולטורים יושבים לעיתים לצד העובדים, וקרא לממשלות לחייב מעבדות אחרות בחזית לעשות כמוהו. סם אלטמן מ-OpenAI אמר שגם חברתו תעשה זאת.

מדוע זה חשוב

מפקח בנקאי יכול להורות למוסד להפסיק נוהג מסוים, להגביל את צמיחתו או, במקרים קיצוניים, לסגור אותו. המעריכים שהוצעו עד כה למעבדות AI יוכלו לחקור ולדווח, אך לא לעצור את אימון המודל או את שחרורו — פער שמבקרי הפיקוח הוולונטרי מצביעים עליו. הצעתו של יוז מרחיקה לכת בכך שהיא מכניסה פנימה צוותים ממשלתיים ולא קבלנים חיצוניים, ובכך שהיא מגבילה את משך הכהונה. המאמר מתפרסם בעיצומו של ויכוח דומה בין ממשלות: בנאומו באו"ם ב-22 בספטמבר דחה נשיא ארה"ב דונלד טראמפ אמנה בינלאומית לניהול סיכוני AI ואמר שברצונו לשנות את שם התחום ל"super intelligence", כפי שדווח ב-Techmeme.