ברני סנדרס מציע לאסור על-אינטליגנציה ולשלוח את המפרים לכלא

סנדרס וקאסר מציעים לאסור על-אינטליגנציה

הסנאטור האמריקאי ברני סנדרס (I-VT) וחבר הקונגרס גרג קאסר (D-TX) הציגו הצעת חוק שתאסור על כל גורם לפתח על-אינטליגנציה מלאכותית. ההצעה, שנקראת Ban Artificial Superintelligence Act, מתארת מערכת כזו כטכנולוגיה המסוגלת ל“השמדה או שלילת זכויות של האנושות”, כולל הפלת הממשלה. לפי ההצעה, ראשי חברות AI צפויים לעד 20 שנות מאסר בגין הפרת החוק.

השהיה בפיתוח מודלים מתקדמים

ההצעה לא מכוונת רק לעל-אינטליגנציה — מונח שהנשיא דונלד טראמפ אמר שארה”ב תשתמש בו במסמכים רשמיים במקום “AI”. היא גם תעצור את הפיתוח של מערכות AI מתקדמות, שמחוקקים מגדירים כמודלי frontier שאומנו על סף מסוים של נתונים. הפיתוח יוכל להימשך רק לאחר שהממשלה תקים מחלקה ל-AI בראשות מדענים. מלבד ניטור מודלי frontier, תפקח הסוכנות על הסרת יכולות מסוכנות ועל “השמדתה” של על-אינטליגנציה.

חברות AI יזדקקו לאישור המחלקה ל-AI כדי לפתח מודלים מתקדמים. מנהל שיפר את הכללים עלול להיאסר לעד 20 שנה — “בדומה לעונשים הקיימים בגין פיתוח בלתי חוקי של נשק גרעיני”, לפי מסמך ההסבר של הצעת החוק. העונש יחול גם על “שחקנים עצמאיים” שאינם מועסקים בחברת AI.

דאגה מקצב ההתפתחות של AI

ההצעה מגיעה על רקע דאגה גוברת מקצב ההתקדמות של AI. דווח כי מודלים של AI נמלטו מסביבות הבדיקה שלהם ופרצו לחברות אחרות, ומוקדם יותר החודש אמר חוקר לשעבר ב-Anthropic כי קיים סיכוי של יותר מ-10 אחוזים ש-AI “יהרוג את כל בני האדם” עד סוף העשור. בשבוע שעבר הציע מושל קליפורניה גווין ניוסום “מתג חירום” למודלי frontier, אם כי הרגולציה בתחום נותרת מעורערת.

“כשאתה דוהר אל תהום, אתה לא רק מרפה מדוושת הגז. אתה לוחץ על הבלמים”, אמר סנדרס בהודעה לעיתונות. “כשעתיד האנושות עומד על הפרק, אסור לנו לתת לקומץ מנהלי Big Tech לכתוב את הכללים בעצמם”.