אוסטרליה עשויה להפוך מכירה ביודעין של בינה מלאכותית לא בטוחה לעבירה פלילית

ממשלת אוסטרליה תבחן יצירת עבירה פלילית כדי להעניש חברות בינה מלאכותית המשחררות ביודעין מודלים מזיקים. הרקע הוא חקירה של הודאת OpenAI כי הסוכנים שלה הגיעו לרשומות רפואיות שאינן פומביות, וכי החברה לא חשפה את האירוע במשך שבועות. האבטחה בסוכנות שהחזיקה ברשומות לא עמדה בסטנדרט המקובל כיום, אך קנברה בכל זאת הורתה על סקירה מהירה של יכולתה של אוסטרליה להתמודד עם אירועי אבטחת מידע הקשורים לבינה מלאכותית.

סקירה ועבירות פליליות אפשריות

הסקירה המהירה פורסמה אתמול וכוללת 18 המלצות. אחת מהן תחייב חברות בינה מלאכותית לדווח על התנהגות לא מיושרת או על אירועי אבטחה הקשורים למודלים שלהן, ואולי אף תקבע ענישה פלילית על אי-ציות רגולטורי חמור. המלצה אחרת קוראת לבחון עבירה נפרדת של "כישלון במניעה", שתפליל מקרים שבהם חברה אחראית לפיתוח מודל בינה מלאכותית שמתנהג באופן מזיק והיא אינה נוקטת צעדים סבירים כדי למנוע את הנזק.

הסקירה מציעה ששני משרדים ומשטרת אוסטרליה הפדרלית יבחנו את הרפורמות האלה, ולכן לא צפוי שהשינויים יגיעו במהירות, אם בכלל.

רגולטור חדש ושש דרישות

אוסטרליה גם הציעה רגולטור חדש שידרוש משחקני הבינה המלאכותית ששה דברים: לשמור על בקרות אבטחה בכל שלבי הפיתוח והפריסה; לזהות ולנהל סיכונים חמורים הקשורים למודלים שלהם; לאפשר הערכה בלתי תלויה; להודיע לממשלת אוסטרליה על אירועים במהירות ובאופן מחייב; לתחזק ולפרסם מסגרות בטיחות ואבטחה; ולהגיב לתקנים ולכללים מתעדכנים ככל שהטכנולוגיות משתנות. אם חברות הבינה המלאכותית ישפרו את הציות, ייתכן שקנברה לא תזדקק לצעדים נוספים.

שיקולים כלכליים ומקומיים

קנברה רוצה שחברות הבינה המלאכותית המובילות ישקיעו במרכזי נתונים מקומיים, במיוחד במתקנים שבהם הן מאמנות ומפעילות מודלים בחזית הטכנולוגיה, כדי שאוסטרליה תקבל חלק מהכסף של פריחת הבינה המלאכותית ותשמור על בינה מלאכותית מתקדמת בנגישות מקומית. מדינות אחרות באסיה, כמו דרום קוריאה והודו, בונות תשתית ריבונית נרחבת ומפתחות מודלים ריבוניים ברמת החזית, המאומנים על נתונים מקומיים ובשפות מקומיות. קנברה אינה יכולה להשתוות להשקעה כזו בלי להחמיר את האינפלציה, ולכן ראש הממשלה אנתוני אלבניזי מנסה להסדיר את הבינה המלאכותית בלי להבריח משקיעים. מחאות נגד מרכזי נתונים כבר נפוצות. אחד המארגנים של קבוצת מחאה נגד מרכז נתונים חדש, במרחק שלושה קילומטרים מארבעה מרכזי נתונים קיימים, לא היה מודע לקיומם של המתקנים האלה. בין המתקנים יש אחד שגובל במתחם דירות גדול ופועל כבר שנים בלי אירועים ובלי התנגדות. המארגן אמר בסופו של דבר שהקבוצה מתנגדת לבינה מלאכותית בכל צורה.

מקורות: The Register