Ro Khanna-მ რეკურსიული AI-ს აკრძალვის კანონპროექტი მოამზადა

აშშ-ის კონგრესის წევრი Ro Khanna ხელოვნური ინტელექტის მარეგულირებელ კანონპროექტს წარადგენს. დოკუმენტი მკაცრ პასუხისმგებლობის სტანდარტებს და „რეკურსიული“, თვითგაუმჯობესებადი AI მოდელების აკრძალვას ითვალისწინებს, სანამ მთავრობა დაცვის მექანიზმებს არ შექმნის. შეჯამება CNBC-მ ექსკლუზიურად მიიღო.

ინიციატივა ვაშინგტონზე ზეწოლის ზრდის ფონზე ჩნდება: ტექნოლოგიური კომპანიების ხელმძღვანელებმა გააფრთხილეს, რომ განვითარებული AI ადამიანის კონტროლს შესაძლოა გასცდეს. კონგრესს ამ ტექნოლოგიისთვის ყოვლისმომცველი წესები ჯერ არ მიუღია.

კონტროლის დაკარგვის რისკი

„არსებობს ცივილიზაციური გადაშენების რისკი“, განაცხადა Khanna-მ CNBC-სთან ინტერვიუში. „არსებობს კონტროლის დაკარგვის რისკი, ასევე ბოროტად გამოყენების რისკი და ორივე სერიოზულად უნდა აღვიქვათ“. კანონპროექტი სახელწოდებით „Human Control Over AI Act“ კრძალავს მოდელებს, რომლებიც რეკურსიულად უმჯობესდებიან ან დამოუკიდებლად ცვლიან საკუთარ მიზნებს, კონტროლის ან გამორთვის მექანიზმებს, სანამ ფედერალური დაცვა არ შეიქმნება და სააგენტო ამ საქმიანობას არ დაამტკიცებს.

ახალი ფედერალური სააგენტო

დოკუმენტი ახალ ფედერალურ სააგენტოს ქმნის, რომელიც OpenAI-ს, Anthropic-ის, Google DeepMind-ისა და xAI-ის ფრონტიულ მოდელებზე იმუშავებს. სააგენტო უსაფრთხოების წესებს შეიმუშავებს, მოდელების წვრთნისა და გაშვების ლიცენზირებას შემოიღებს, აუდიტს ჩაატარებს და უწყვეტი ტესტირებისა და ადამიანის ეფექტური კონტროლის სტანდარტებს დაადგენს. დამოუკიდებელი აუდიტორები ყველა ფრონტიულ ლაბორატორიაში იმუშავებენ და სააგენტოს უშუალოდ მოხსენებას წარუდგენენ. სტანდარტები sandbox-ტესტირებას, ინტერნეტისგან იზოლირებულ გარემოს, გამორთვის ღილაკებსა და იმ მექანიზმებს მოიცავს, რომლებიც მოდელებს ლაბორატორიიდან გაქცევას უშლის. სააგენტო ლაბორატორიების მოწინავე ჩიპებსაც დაარეგულირებს.

სასჯელები, დაზღვევა და პოლიტიკური პერსპექტივა

კანონპროექტი სამოქალაქო მოსახლეობის განადგურებამდე მიყვანილი მოდელების გაშვებას „კაცობრიობის წინააღმდეგ ჩადენილ დანაშაულად“ აცხადებს და AI კომპანიების თანამშრომლებს სისხლის სამართლის პასუხისმგებლობას აკისრებს, თუ ისინი დაცვის მექანიზმებს, გამორთვის ღილაკებს, ლოგირებას ან შემზღუდავ სისტემებს გამორთავენ ან არასანქცირებულ სისტემას შეგნებულად გაუშვებენ. მოდელის გამოქვეყნებამდე კომპანიებს ვრცელი პასუხისმგებლობის დაზღვევა მოეთხოვებათ. დოკუმენტი ადმინისტრაციას ჩინეთისა და სხვა მოწინააღმდეგეების შესაკავებლად აღსრულებადი შეთანხმებებისა და მიზნობრივი საექსპორტო კონტროლისკენ მოუწოდებს.

Khanna-ს თქმით, ეს ყველაზე ყოვლისმომცველი AI უსაფრთხოების კანონპროექტია. ის Model Evaluation and Threat Research-თან, Machine Intelligence Research Institute-თან და Palisade Research-თან საუბრების საფუძველზე შეიქმნა და არა დიდი AI კომპანიების მოთხოვნების მიხედვით. „მინდა, ეს AI უსაფრთხოების საზოგადოების ხმის გამხმოვანებელი მოდელი იყოს“, განაცხადა მან. ინიციატივა ორპარტიულ FRONTIER Act-საც უერთდება. პალატაში კენჭისყრა შუალედურ არჩევნებამდე მოსალოდნელი არ არის, სენატი კი ამ კვირის შემდეგ ვაშინგტონს ტოვებს.