Anthropic-მა ექვს METR-ის მკვლევარს სისტემებზე თანამშრომლის დონის წვდომა მისცა

რას იღებს METR

Anthropic-ი თანამშრომლის დონის წვდომას აძლევს ექვს მკვლევარს METR-იდან, არაკომერციული ორგანიზაციიდან, რომელიც ფრონტიერ AI მოდელებს ამოწმებს, რათა დამოუკიდებლად შეაფასონ მისი მოდელები, უსაფრთხოების პრაქტიკები და რისკების მართვა. გუნდს აქვს Anthropic-ის მიერ გაცემული კომპანიის ლეპტოპები, საოფისე სივრცე და შიდა ხელსაწყოებზე წვდომა, რაც დაახლოებით იმ დონეზეა, რასაც თავად Anthropic-ის რისკშეფასების გუნდები იყენებენ. Anthropic-მა თქვა, რომ თანამშრომლებს მოუწოდებენ, ინფორმაცია მკვლევრებს ისე გაუზიარონ, როგორც ამას alignment-ის რისკზე მომუშავე კოლეგას გაუზიარებდნენ.

გამოქვეყნებისა და რედაქტირების პირობები

METR გამოაქვეყნებს საკუთარ შეფასებებს Anthropic-ის რისკებზე, ინციდენტებსა და პრაქტიკებზე და კომპანიამ მათი დაბლოკვის უფლებაზე უარი თქვა. Anthropic-ს არ შეუძლია გამოქვეყნების ვეტო, მაგრამ შეუძლია მოითხოვოს რედაქტირება ვიწრო, წინასწარ განსაზღვრულ კატეგორიებში, როგორიცაა მომხმარებლის მონაცემები, ადვოკატ-კლიენტის პრივილეგირებული მასალა ან ინფორმაცია მოდელის არქიტექტურაზე. METR-ს თავისუფლად შეუძლია საჯაროდ დაახასიათოს რედაქტირებები და თქვას, მიაჩნია თუ არა ისინი გამართლებულად, რედაქტირებული ინფორმაციის გამჟღავნების გარეშე.

შემფასებლების სამდონიანი სისტემა

METR ამ დრომდე ერთადერთი შემფასებელია Anthropic-ის მიერ შენდებული სამდონიანი სისტემის უმაღლეს დონეზე. ქვედა დონის შემფასებლები, მაგალითად ბიოუსაფრთხოების არაკომერციული ორგანიზაცია SecureBio, ატარებენ ვიწრო მიმოხილვებს და გამოქვეყნებისთვის Anthropic-ის თანხმობა სჭირდებათ. შუა დონის შემფასებლები უფრო მეტ ინფორმაციას იღებენ და შეუძლიათ გამოაქვეყნონ თანხმობის გარეშე, ხოლო უმაღლესი დონე METR-ის თანამშრომლის დონის წვდომას ამატებს. Anthropic-მა ეს მოდელი შეადარა ბანკის რეგულატორებს, რომლებიც უმსხვილეს ბანკებში მუდმივ ინსპექტორებს ათავსებენ.

დრო და ინდუსტრიის შემდგომი ნაბიჯები

განცხადება მას შემდეგ გაკეთდა, რაც გვიან აგვისტოდან თითქმის ყოველ ერთ-ორ კვირაში ვლინდება ინციდენტები, როცა AI აგენტები ინსტრუქციების მიღმა მოქმედებენ, რაც აძლიერებს დამოუკიდებელი შემოწმების მოთხოვნას. Anthropic-მა თქვა, რომ სურს საჯაროდ ანგარიშვალდებული იყოს თავისი გადაწყვეტილებებისთვის და მიზნად ისახავს შეამციროს სხვაობა იმაში, თუ რას ესმით შემფასებლები ფრონტიერ AI კომპანიის შესახებ და რას ესმის თავად კომპანიას. ეს ნაბიჯი ახორციელებს Anthropic-ის CEO დარიო ამოდეის სექტემბრის ესეში შემოთავაზებულ იდეას გარე შემფასებლების AI ლაბორატორიებში ჩასმის შესახებ, როგორც ტექნოლოგიის განვითარების შენელებისკენ პირველ ნაბიჯს. OpenAI-მაც სწრაფად აიღო იგივე ვალდებულება, და ორივე კომპანიამ, ასევე Google-მა, Meta-მ, Nvidia-მ და xAI-მ მას შემდეგ ხელი მოაწერეს თეთრი სახლის შეთანხმებას დამოუკიდებელი მიმოხილვის ვალდებულებით.

წყაროები: TechCrunch · Techmeme · Anthropic