Ro Khanna ჩინურ AI კომპანიებს უსაფრთხოების დოკუმენტაციას სთხოვს და აშშ-ჩინეთის შეთანხმებას ითხოვს

აშშ-ის წარმომადგენელთა პალატის წევრმა Ro Khanna-მ, ჩინეთის საკითხებზე პალატის სპეციალური კომიტეტის წამყვანმა დემოკრატმა, წერილები გაუგზავნა ამერიკის დაზვერვის სააგენტოს და სამ ჩინურ კომპანიას, რომლებიც ხელოვნურ ინტელექტს (AI) ავითარებენ. წერილები ეხება AI-ზე კონტროლის დაკარგვის რისკს და The Verge-ს ექსკლუზიურად გადაეცა, პრეზიდენტ Donald Trump-ის ვაშინგტონში ტექნოლოგიურ კომპანიებთან შეხვედრის წინ.

წერილები დაზვერვის სააგენტოსა და ჩინურ ლაბორატორიებს

Khanna-მ ეროვნული დაზვერვის დირექტორს Jay Clayton-ს სთხოვა, შეაფასოს, რამდენად შეძლებს აშშ რეაგირებას, თუ AI ლაბორატორია ბოტებზე კონტროლს დაკარგავს. სააგენტომ უნდა შეაფასოს ისიც, როგორ ამოწმებს ჩინეთი კატასტროფულ AI რისკებს; ეს ინფორმაცია კონგრესს და თეთრ სახლს ჩინელ კოლეგებთან შეთანხმების მომზადებაში დაეხმარება.

წერილში Khanna წერს, რომ ამერიკისა და ჩინეთის ინტერესები ბევრ საკითხზე „მკვეთრად განსხვავებულია“, თუმცა „ამ კონკრეტულ საკითხში არც ერთი ქვეყნისთვის არ არის სასარგებლო, კაცობრიობამ საკუთარი ბედი კონტროლიდან გამოუშვას“.

მსგავსი წერილები გაეგზავნა DeepSeek-ს, Alibaba-ს და Moonshot AI-ს: Khanna-მ დოკუმენტაცია მოითხოვა მათი მუშაობის შესახებ „სუპერინტელექტისა“ და რეკურსიული თვითგაუმჯობესებისკენ (RSI), დაცვის მექანიზმებსა და „kill switch“-ებზე, ასევე იმაზე, დათანხმდებოდნენ თუ არა კომპანიები არასამთავრობო ორგანოს ინსპექციას. რისკის მაგალითად მან ზაფხულში მომხდარი ინციდენტი მოიხსენია, როცა OpenAI-ს აგენტებმა Hugging Face გატეხეს. არც ODNI-მ და არც კომპანიებმა The Verge-ს დაუყოვნებლივ არ უპასუხა.

შეთანხმება, რომელიც ჯერჯერობით ნაკლებად სავარაუდოა

ეს ნაბიჯი Xi Jinping-ისა და Trump-ის თეთრ სახლში შეხვედრიდან ერთი კვირის შემდეგ მოჰყვა. Khanna-მ ლიდერების შეთანხმებას AI-ზე საუბრის გაგრძელებაზე კონსტრუქციული უწოდა, თუმცა „საკმარისი არ არის“. მას სურს შეთანხმება, რომელიც რეკურსიულ თვითგაუმჯობესებას კრძალავს და წამყვან AI ლაბორატორიებს აკონტროლებს; სანამ ეს მოხდება, ის ორივე ქვეყნის ექსპერტების სამუშაო ჯგუფს სთავაზობს. Bernie Sanders-მა (ვერმონტი) ასევე მოუწოდა AI-ზე შეთანხმებას, რესპუბლიკელი John Moolenaar (მიჩიგანი) კი ეჭვობს, რომ პეკინი ვალდებულებებს არ შეასრულებს. რეგულირებას Trump-ი და მისი მოკავშირეებიც ეწინააღმდეგებიან: Xi-სთან შეხვედრის დილას მან Truth Social-ზე დაწერა, რომ „სუპერინტელექტი (SI) განხილვის მთავარი თემა იქნება, თუმცა მსურს, ყველაფერი იქ დარჩეს, სადაც არის“.

„შერცხვენა“ და არა პასუხის მოლოდინი

Khanna-მ The Verge-ს უთხრა, რომ მიზანი ჩინური AI კომპანიების „შერცხვენა“ და უსაფრთხოების თემაზე დისკუსიის „გაღვივებაა“, თუმცა სრულ პასუხს არ ელოდება. ადრინდელი წერილი, რომელშიც მათ OpenAI-სა და Anthropic-თან ერთად განვითარების შენელება შესთავაზა, უპასუხოდ დარჩა. ამერიკულ AI კომპანიებსაც აკრიტიკებს, თუმცა აღნიშნავს, რომ „ისინი მაინც მონაწილეობენ უსაფრთხოების განხილვებში“.

თეთრ სახლისა და ტექნოლოგიური კომპანიების ხელმძღვანელების სამშაბათის შეხვედრას Khanna-მ „ბრენდინგის სავარჯიშო“ უწოდა და იკითხა, რატომ უნდა ადგენდნენ უსაფრთხოების წესებს კომპანიები, რომლებსაც მოგების მაქსიმიზაციის ინტერესი აქვთ. მისი თქმით, ბევრი ჩინური მოდელი ამერიკული მოდელებიდანაა დისტილირებული, დისკუსია კი ინჟინრებმა უნდა წარმართონ, არა პოლიტიკოსებმა.