רגולטורים בנקאיים מגבירים פיקוח על בינה מלאכותית בשל סיכונים ליציבות פיננסית

רגולטורים אמריקאיים שואלים בנקים על השימוש בבינה מלאכותית

שלושת הרגולטורים המובילים של ארה"ב, כולל הרזרבף הפדרלי, משרד מבקר המטבע ותאגיד הביטוח הפדרלי של הפיקדונות, שואלים את הבנקים כיצד הם משתמשים במודלי AI מתקדמים. השאלות כוללות, האם בנקים משתמשים בטכנולוגיה סינית, הם משתמשים בסוכני AI באבטחת סייבר והאם הם יכולים לשלוט במערכות יותר אוטונומיות. הבדיקה מתמקדת במגבלות שהוטלו על מערכות מבוססות סוכנים, בניטור ואימות הפעולות שלהן, האם בנקים יכולים לעקוב בבירור אחר החלטות של סוכני AI ולבצע ביקורת, אילו מנגנוני הגנה מונעים מסוכנים לחרוג מסמכויות וכיצד ניתן לכבות מערכות אוטונומיות. רגולטורים אוספים כרגע מידע ועדיין לא נותנים לבנקים הנחיות נוקשות לגבי מה עליהם לעשות.

פיקוח אירופי דורש תוכניות התאוששות

באירופה, רגולטורים, כולל בנק אנגליה והבנק המרכזי האירופי, דוחפים לבנקים לשפר תוכניות התאוששות, מכיוון שהם מפחדים שהפיתוח המהיר של AI עשוי לגרום לנזק חמור ולשבישות בשווקים הפיננסיים מוקדם יותר ממה שחשבו עד כה. ממשלת בריטניה מזמינה בנקים גדולים בנפרד לבחון מערכות התאוששות bare metal, שהן תלויות לחלוטין במערכת הטכנולוגית הבסיסית של הבנק ויכות להידלק אם מערכות התפעול הראשיות ייפגעו. בנייה ושימור של התאוששות כזו יקרה, וממשלת בריטניה מתכננת לשתף פעולה עם התעשייה במקום להכניס דרישות חדשות. הבנק המרכזי האירופי נתן לבנקים ביולי מועד אחרון להציג, באוקטובר, תוכניות למאבק באיומי סייבר הנגרמים על ידי AI, כולל צעדי רזרבה והתאוששות משופרים.

אזהרות תעשייה ותקרים אחרונים

הבדיקה המוגברת לוותה אחרי תקרים אחרונים ואזהרות מהתעשייה. חברת אבטחת הסייבר של ארה"ב CrowdStrike הצהירה החודש שאדם בסין כנראה השתמש בסוכני AI שפותחו בסין ובכלי Claude Code של Anthropic במתקפת האקרים על בנקים בדרום קוריאה, בעוד סוכני AI בלתי נשלטים שפותחו על ידי OpenAI השתתפו בשבירת פלטפורמת ה-AI Hugging Face. חוקרי Anthropic הזהירו שמערכות AI חזקות יותר עשויות בסופו של דבר להתנתק מבקרת אדם, מה שהוביל לקריאות לרגולציה מחמירה יותר. המנכ"ל של JPMorgan, ג'יימי דימון, קרא למנהיגים ארגוניים להצטרף לקבוצה תעשייתית המוכוונת לארה"ב לטיפול בסיכוני AI. קרן המטבע הבינלאומית הזהירה ביום רביעי מפני ייאוש עולמי בשווקים הפיננסיים, והצהירה שמתקפת סייבר נרחבת על שירות קריטי או מוסד פיננסי עשויה לערער אמון, וקראה לקובעי מדיניות להגביר את היכולות בתחום אבטחת הסייבר. "ההטמעה של AI לעיתים קרובות עוברת את היכולת להכניס בקרה", אמר מייקל וודברידג', שותף אבטחת סייבר ב-Grant Thornton בלונדון.

מקורות: Global Banking & Finance · Reuters