Anthropic-მა გარე მეთვალყურე METR-ს მოდელების რისკების შესამოწმებლად „თანამშრომლის მსგავსი წვდომა“ მისცა

Anthropic-მა METR-ის შემფასებლები ოფისებში ჩართო

Anthropic-მა გარე შემფასებლებს „თანამშრომლის მსგავსი წვდომა“ მისცა მოდელების რისკების შესაფასებლად. კომპანია ამით ასრულებს უსაფრთხოების გაძლიერების ვალდებულებას, რადგან არსებობს შიში, რომ ტექნოლოგია კონტროლიდან კატასტროფულად გავარდება. არაკომერციულ METR-ს, რომელიც OpenAI-სთან, Anthropic-თან, Google-თან და Meta-სთან მუშაობდა, ახლა Claude-ის შემქმნელის ოფისში ჩაბინავებული გუნდი ჰყავს, კომპანიის აპარატურასა და შიდა სისტემებზე წვდომით.

Anthropic-მა ექვსი METR-ის თანამშრომელი ჩართო და მათ კომპანიის აპარატურა, საოფისე სივრცე და შიდა ხელსაწყოებზე წვდომა მისცა, დაახლოებით იმავე დონეზე, როგორც საკუთარ რისკების გუნდებს აქვთ. ლაბორატორიამ თანამშრომლებს მოუწოდა, შემფასებლებს ინფორმაცია ისე გაეზიარებინათ, როგორც რისკებზე მომუშავე კოლეგას. Anthropic ამისთვის METR-ს არ უხდის.

წინადადება, რომელსაც მეტოქეები მიემხრნენ

Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ სექტემბერში მეტოქეებთან, სემ ალტმანთან და ილონ მასკთან, იშვიათი ერთიანობა მოიპოვა: OpenAI-ისა და SpaceX-ის ხელმძღვანელებმა მხარი დაუჭირეს მის წინადადებას წამყვან ლაბორატორიებში გარე აუდიტორების ჩართვაზე. ხუთშაბათის განცხადება ამ ვალდებულებების შესრულების პირველი ნაბიჯია. OpenAI-ს ჯერ არ დაუდგენია გეგმა შემფასებლების მოწვევისთვის მას შემდეგ, რაც ალტმანმა თქვა, რომ ამოდეის წინადადებები კარგი იდეაა.

Anthropic-მა განაცხადა, რომ მოდელების ძლიერების ზრდასთან ერთად უფრო მკაცრი დაცვა და რთული რისკების შეფასება საჭიროა. კომპანიას სურს საჯაროდ იყოს ანგარიშვალდებული გადაწყვეტილებებზე, მაგრამ ამტკიცებს, რომ უსაფრთხოების სამუშაოს ყველა ინფორმაციას საჯაროდ ვერ გააზიარებს. მან შემფასებლის მოდელი ბანკების ზედამხედველობას შეადარა, სადაც რეგულატორები უმსხვილეს ბანკებში მუდმივ ინსპექტორებს აგზავნიან.

კრიტიკა ინტერესთა კონფლიქტებსა და IPO-ს ზეწოლაზე

შემფასებლების ჩართვის კრიტიკოსები ამბობენ, რომ ამან შეიძლება ინტერესთა კონფლიქტი გამოიწვიოს, მიუთითებენ ბუღალტრულ სექტორში არსებულ პრობლემებზე და მეტ სახელმწიფო რეგულირებას ითხოვენ. Anthropic-მა საპასუხოდ თქვა, რომ ინფორმაციის საჯაროდ გაზიარება მავნე მოქმედებებისთვის ან კონკურენტებისთვის სასარგებლო შეიძლება იყოს.

კომპანია ასევე ცდილობს დაარწმუნოს ინვესტორები, რომ უსაფრთხოების საკითხები მის პირველ საჯარო შეთავაზებას არ დაჩრდილავს; IPO წელს 2 ტრილიონ დოლარზე მეტი შეფასებითაა მოსალოდნელი. ამ კვირაში კომპანიამ ინვესტორებისთვის პრეზენტაციების დიდი ნაწილი უსაფრთხოების პრაქტიკას დაუთმო.

გამოქვეყნების პირობები და სხვა შემმოწმებლები

შემფასებლები თავიანთ ანალიზს გამოაქვეყნებენ და Anthropic-ს გამოქვეყნების ვეტოს დადება არ შეუძლია. თუმცა, მას შეუძლია მოსთხოვოს მათ, დაფარონ გარკვეული კატეგორიის ინფორმაცია, მაგალითად, მომხმარებლის მონაცემები, ადვოკატ-კლიენტის პრივილეგიით დაფარული დეტალები ან მოდელის არქიტექტურის შესახებ ინფორმაცია.

METR იყო ერთ-ერთი ორგანიზაცია, რომელიც Hugging Face-ზე OpenAI-ის უკონტროლო მოდელების თავდასხმას იძიებდა, ათასობით ლოგი გადაამოწმა და კომპანიის ლეპტოპები მიიღო. ჯგუფი დონაციებს AI კომპანიებისგან ან მათი თანამშრომლებისგან არ იღებს და ფინანსდება კერძო პირების, ფილანთროპიული ორგანიზაციებისა და სამთავრობო უწყებებისგან, მაგალითად, გაერთიანებული სამეფოს AI Security Institute-ისგან.

Anthropic-მა თქვა, რომ კვლავ თანამშრომლობს Accenture-თან, რომელიც გასულ თვეში უსაფრთხოების ტესტირების პარტნიორად დაასახელეს; თითოეული მათგანი იღებს ვალდებულებას, მინიმუმ 1 მილიარდი დოლარი გამოყოს ახალი დაცვის მექანიზმების შესაქმნელად. კიდევ ერთი მესამე მხარის შემმოწმებელი, SecureBio, კომპანიისთვის ქიმიური და ბიოლოგიური იარაღის რისკს ამოწმებს. „ჩვენ შემფასებლებს ნებაყოფლობით ვრთავთ და გვჯერა, რომ ყველა ფრონტიერ AI კომპანიამ იგივე უნდა გააკეთოს“, თქვა Anthropic-მა. METR-მა განაცხადა, რომ მზადაა ითანამშრომლოს ყველა ფრონტიერ AI შემქმნელთან, რათა საზოგადოებას უკეთესი მტკიცებულებები მიაწოდოს.

წყაროები: Ars Technica