פקידי בריטניה: שינויי אבטחת סייבר ב-AI עדיין בבחינה

שינויים עדיין בבחינה

פקידים בריטיים טרם אישרו הנגשת אמצעים מבוססי-AI לחוק הסייבר והחוסן, למרות ההבטחות של השרים שהחקיקה תיווצר בכל מקום שבו נחוץ. פקידי ציבור בכירים אמרו השבוע לחברי הפרלמנט ששינויים הקשורים לסיכוני-AI עדיין נמצאים בבחינה.

אלכסנדרה ג'ונס, המנהלת הכללית לצמיחה, עניינים בינלאומיים, מדע וטכנולוגיה במחלקה לעסקים, חדשנות, מדע וסחר, אמרה שבעקבות השינויים האחרונים במבנה הממשלתי, האחרית על החוק הפכה למחלקה לדיגיטל, תרבות, מדיה וספורט. הוא אמר שהממשלה מתכננת להשתמש בו כדי לשקול שינויים שישפרו מוכנות מול סיכוני-AI, סייבר ואובדן שליטה, כולל איך מזהים ומדווחים על תקריות חמורות ומקרים כמעט, ואיך נסלמות הפרות שנגרמו על ידי-AI בארגונים.

יו"ר הוועדה ליאם בירן הפריע ואמר שיש לחקוק משהו, ולא רק לשקול זאת. כששאלו על תיקוני חקיקה, ג'ונס אמרה שהממשלה תשקול החלת שינויים ותפתח מדיניות לגבי האם להשתמש בחוק אבטחת הסייבר למטרה זו.

אזהרות בנוגע למערכות אוטונומיות

חוסר הוודאות בא בעקבות אזהרות על סכנות של-AI אוטונומי. מחקר שפורסם ביום שני על ידי Anthropic בדק האם מודלי-AI יכולים ליצור עותקים של עצמם בין מכשירים ולפעול על חומרה נגועה. התחזית שלו מתבססת על המגמה של שיפור יכולות המודלים ולא על הדגמה שוירוס אוטונומי לחלוטין מתפשט באופן נרחב על מכשירי IoT אמיתיים.

חברת הייעוץ Booz Allen Hamilton גם הזהירה שמערכות-AI אוטונומיות לחלוטין עשויות לאתר ולתקוף טכנולוגיות תפעוליות קריטיות וציוד תעשייתי, וכן לשבש גישה למים, חשמל ומשאבים נוספים החיוניים לחיי היומיום.

רגולציה ופיקוח

שר ה-AI קאנישקה נאראיאן, שעובד במנגנון הממשלתי, הכריז השבוע על תוכניות לחזק את ההגנה של המדינה מול סיכוני-AI הגוברים. הוא אמר שהממשלה תשתמש בכל הסמכויות הזמינות ותחוקק בכל מקום שבו נחוץ, תוך שהיא נשענת על מומחיות מדעית, יכולות טכנולוגיות ומוסדות.

בריטניה הגדולה משתמשת בגישה מבוזרת ומותאמת למגזר לרגולציה של-AI. משרד הנציב למידע פרסם עקרונות שבהם הוא משתמש כדי להרחיב את חוק הגנת הנתונים ל-AI. AI Act של האיחוד האירופי נכנס לתוקף באוגוסט 2024, וחובות חדשות מופעלות בהדרגה. לארה"ב אין חקיקה פדרלית המכוונת ספציפית ל-AI, אם כי חלק מהמדינות מציגות חוקים חדשים.

עד כה אמרו חוקרי סיכוני-AI לוועדה שאין לסמוך על יוצרי המודלים שירגלו את עצמם, ושכללים בינלאומיים חייבים להתגבר על הבדלים פוליטיים שורשיים. דניאל קוקוטיילו, המנהל הביצועי של AI Futures Project, הציע למנוע שיפור עצמי רקורסיבי ולהוסיף שקיפות ורגולציה כדי שהתעשייה תתקדם בזהירות. בירן סיכם את העדויות: תרבות הבטיחות בתעשייה חסרה באופן קטסטרופי, תרבות הבטיחות בחברות בודדות נמצאת במקום הלא נכון, דינמיקה תחרותית מגבירה סיכונים, ולחברות אין אפשרות להיות מהימנות לרגול את עצמן.

מקורות: The Register