הנציג רו קהאנה יציג הצעת חוק לאיסור מודלי AI רקורסיביים

חבר הקונגרס הדמוקרטי רו קהאנה מתכוון להגיש הצעת חוק לרגולציה של בינה מלאכותית, הכוללת תקני אחריות מחמירים ואיסור על מודלי AI "רקורסיביים" שמשפרים את עצמם, עד שהממשל ייצור אמצעי הגנה. סיכום ההצעה נמסר ל-CNBC בלעדית.

היוזמה מגיעה על רקע לחץ גובר על וושינגטון לפעול, לאחר שמנהלים בכירים בתעשיית הטכנולוגיה הזהירו כי AI מתקדם עלול לצאת משליטת האדם. הקונגרס לא חוקק עד כה כללים מקיפים לטכנולוגיה הזו.

החשש מאובדן שליטה

"קיים סיכון אמיתי להכחדה ציוויליזציונית", אמר קהאנה בראיון ל-CNBC. "יש סיכון בטיחותי של אובדן שליטה, ויש סיכון של שימוש לרעה, ושניהם צריכים להילקח ברצינות". הצעת החוק, בשם Human Control Over AI Act, אוסרת מודלים שמשתפרים באופן רקורסיבי או משנים בעצמם את מטרות הליבה, אמצעי הריסון או מנגנוני הכיבוי שלהם, עד שייווצרו מחסומים פדרליים וסוכנות תאשר פעילות כזו.

סוכנות פדרלית חדשה

ההצעה מקימה סוכנות פדרלית שתעסוק במודלים חזיתיים של OpenAI, Anthropic, Google DeepMind ו-xAI. הסוכנות תגבש כללי בטיחות, תפעיל מערכת רישוי לאימון ולפריסה של מודלים, תבצע ביקורות ותקבע תקנים לבדיקות רציפות ולשליטה אנושית אפקטיבית. מבקרים עצמאיים ישובצו בכל מעבדה חזיתית וידווחו ישירות לסוכנות. התקנים יכסו גם סביבות בדיקה מבודדות, הפרדה מהאינטרנט, מתגי כיבוי ומנגנונים שמונעים ממודלים להימלט מהמעבדה. הסוכנות תווסת גם את השבבים המתקדמים שבהם משתמשות המעבדות.

ענישה, ביטוח ופוליטיקה

ההצעה תגדיר פריסה של מודל שגרמה להשמדת אוכלוסייה אזרחית כ"פשע נגד האנושות", ותטיל אחריות פלילית על עובדי חברות AI שהשביתו אמצעי הגנה, מתגי כיבוי, תיעוד או מערכות ריסון, או שהפעילו ביודעין מערכת לא מאושרת. לפני שחרור מודלים תחוייבנה החברות בביטוח אחריות נרחב. ההצעה קוראת גם לממשל לקדם הסכמים אכיפים ופיקוח יצוא ממוקד כדי להרתיע את סין ויריבים אחרים.

קהאנה כינה אותה "החקיקה המקיפה ביותר לבטיחות AI" שהוצעה עד כה, ואמר שהיא מבוססת על שיחות עם העמותות Model Evaluation and Threat Research, Machine Intelligence Research Institute ו-Palisade Research, ולא על דרישות של חברות AI גדולות. "אני רוצה שזו תהיה הצעה שתיתן קול לקהילת בטיחות ה-AI", אמר. ההצעה מצטרפת ליוזמות אחרות, ובהן FRONTIER Act הדו-מפלגתי של חברי הקונגרס ג'יי אוברנולטה ולורי טראהאן. הצבעה בבית הנבחרים לא צפויה לפני בחירות האמצע, והסנאט צפוי לעזוב את וושינגטון לאחר השבוע.