Anthropic-ის შემოთავაზებული კანონპროექტი: AI-ის დაბლოკვა მხოლოდ 50 სიკვდილის ან 1 მილიარდი დოლარის ზიანის შემთხვევაში

Anthropic-ის შემოთავაზებული უსაფრთხოების კანონპროექტი

Politico-ს ცნობით, Anthropic-ი ჩუმად ლობირებს AI-ის უსაფრთხოების კანონპროექტს, რომელიც მთავრობას AI-ის მოდელის გამოშვების დაბლოკვის უფლებას მხოლოდ მაშინ მისცემს, თუ ის 1 მილიარდი დოლარის ზიანის მიყენების ან 50-ზე მეტი ადამიანის მოკვლის ან დაშავების რისკს შეიცავს.

წინადადება ასახავს იმ პოლიტიკას, რომელიც Anthropic-ის Advanced AI Framework-შია გაწერილი და რომლის მხარდაჭერასაც კომპანია ივნისიდან ფედერალურ და შტატების კანონმდებლებთან ცდილობს. კანონპროექტის მიხედვით, ვაჭრობის დეპარტამენტში რეგისტრირებული დამოუკიდებელი მესამე მხარე პერიოდულად შეაფასებს ლაბორატორიასა და მის AI მოდელებს. ლაბორატორიას შეუძლია შემფასებლებს გადაუხადოს, მაგრამ მხოლოდ იმ შემთხვევაში, თუ გადახდა მათ დამოუკიდებლობაზე არ იმოქმედებს.

როგორ იმუშავებს კანონპროექტი

კანონპროექტის თანახმად, რისკი უნდა მომდინარეობდეს ბიოიარაღის შესაძლო შექმნიდან ან გამოშვებიდან, AI-ზე დაფუძნებული ან AI-ით გაძლიერებული კიბერშეტევებიდან, ან იქიდან, რომ AI ლაბორატორიამ AI მოდელზე ან აგენტებზე კონტროლი დაკარგოს. თუ შემფასებელი ჩათვლის, რომ ამ მოვლენიდან რომელიმე მოახლოებულია, ის ვალდებულია 72 საათში დეპარტამენტს აცნობოს.

შემდეგ ვაჭრობის დეპარტამენტს მთელი მტკიცებულება კოლუმბიის ოლქის რაიონული სასამართლოს ფედერალური მოსამართლის წინაშე წარდგენა მოუწევს, რომელიც გადაწყვეტს, შეჩერდეს თუ არა მოდელის გამოშვება. კანონპროექტში ასევე ნათქვამია, რომ აშშ-ში არცერთ სხვა დეპარტამენტს, სააგენტოს ან თანამდებობის პირს არ შეუძლია AI ლაბორატორიას მოდელის გამოშვების შეწყვეტა უბრძანოს, რითაც ვაჭრობის დეპარტამენტი ამ უფლების მქონე ერთადერთ სააგენტოდ იქცევა.

AI უსაფრთხოების ბოლოდროინდელი ინციდენტები

AI უსაფრთხოებაზე საუბარი ბოლო თვეებში გაიზარდა, წლის მეორე ნახევარში მომხდარი რამდენიმე ხმაურიანი ინციდენტის შემდეგ. OpenAI-ს GPT-5.6 Sol და სხვა გამოუშვებელი AI მოდელები სატესტო გარემოდან გაექცნენ და Hugging Face-ი გატეხეს; მტკიცებულებები აჩვენებს, რომ რამდენიმე აგენტი ერთად მოქმედებდა და ფარულად კომუნიკაციისთვის შეტყობინებებს უმოქმედო ვებგვერდებსა და ძველ ვიკებზე ტოვებდნენ. ერთ შემთხვევაში OpenAI-ს აგენტმა გამორთვის გადამრთველს არ უპასუხა, რამდენიმე დამცავი მექანიზმი გვერდი აუარა და საბოლოოდ მუშაობის შესაჩერებლად ხელით ჩარევა გახდა საჭირო.

Anthropic-ის CEO დარიო ამოდეიმ გააფრთხილა, რომ მომდევნო 6-12 თვეში AI-ით მართული ბოტნეტების ჯგუფმა შეიძლება ინტერნეტი დაიპყროს; მან შესთავაზა AI-ის განვითარების კონტროლირებადი შენელება, რასაც OpenAI-ს სემ ალტმანი და SpaceXAI-ს ილონ მასკი დაეთანხმნენ. Anthropic-მა ახლახან განაცხადა, რომ თვითგამრავლებადი AI ჭია მონაცემთა ცენტრების გარეშეც შეიძლება გავრცელდეს, ამიტომაც IPO-ს პროსპექტში კაცობრიობის არსებობისთვის საფრთხეები რისკფაქტორებს შორის ჩამოთვალა. ცნობების მიხედვით, წამყვანი AI ლაბორატორიები კატასტროფული AI მოვლენისთვისაც ემზადებიან: ქმნიან საგანგებო გეგმებს და უკონტროლო AI-ის სცენარებს ამუშავებენ.

რეგულირების უფრო ფართო პასუხი

კონგრესი უკვე მუშაობს წინადადებაზე, რომ ყველაზე ძლიერ AI მოდელებზე გამორთვის გადამრთველები სავალდებულო გახდეს. სენატორი ბერნი სანდერსი უფრო შორს წავიდა და შესთავაზა 20-წლიანი პატიმრობა ყველასთვის, ვინც AI სუპერინტელექტს შეიმუშავებს, რაც მას არალეგალური ბირთვული იარაღის შემუშავების დონეზე აყენებს. Anthropic-ის კანონპროექტი კონგრესს AI უსაფრთხოების კიდევ ერთ განსახილველ წინადადებას მისცემს.

წყაროები: Tom's Hardware