Anthropic-ი და OpenAI AI-შემფასებლებთან გამოქვეყნების უფლებებსა და საიდუმლოებაზე დავობენ
Anthropic-მა და OpenAI-მ გარე შემფასებლების გამოქვეყნებებზე მნიშვნელოვანი კონტროლი ითხოვეს, რადგან შიშობდნენ, რომ შედეგები სავაჭრო საიდუმლოებებს გაამჟღავნებდა. შემფასებლები კი საკუთარი დასკვნების დამოუკიდებელ გამოქვეყნებას ითხოვენ.
მოლაპარაკებები გამოქვეყნების უფლებებზე
ორი ინფორმირებული პირის თქმით, Anthropic-მა და OpenAI-მ გარე შემფასებლების გამოქვეყნებაზე მნიშვნელოვანი კონტროლი ითხოვეს, რადგან შიშობდნენ, რომ შედეგებმა შესაძლოა სავაჭრო საიდუმლოებები გაამჟღავნონ. ჯერ კიდევ 5 ოქტომბერს კომპანიები შემფასებლების პუბლიკაციებზე მკაცრ სარედაქციო კონტროლს ითხოვდნენ, თუმცა 8 ოქტომბრისთვის Anthropic-სა და ზოგიერთ შემფასებელს შორის მოლაპარაკებებმა სხვა სახე მიიღო, თქვა ამ საკითხის მცოდნე ერთმა პირმა.
Anthropic-მა განაცხადა, რომ მნიშვნელოვანი კონტროლის მოთხოვნა მის ყველა მოლაპარაკებას ზუსტად არ აღწერს. მისი თქმით, გარე რეცენზენტები თავად აკონტროლებენ მეთოდებს, შეფასების კრიტერიუმებს, დასკვნებსა და იმას, თუ რას გამოაქვეყნებენ, ხოლო ახალი შემფასებელი კომპანიების შემთხვევაში იგი იტოვებს უფლებას კომენტარი გააკეთოს ანგარიშებზე და დაამტკიცოს ისინი, სანამ ისინი მისი მოდელების მუშაობას შეისწავლიან. OpenAI-მ განაცხადა, რომ ანგარიშების სრულ ტექსტზე დამტკიცების უფლებას არ ითხოვს და დასძინა, რომ მისი სტანდარტული პრაქტიკა კონფიდენციალური ინფორმაციის დარედაქტირებაა და შემფასებლებს შეუძლიათ გაამჟღავნონ, გაკეთდა თუ არა მნიშვნელოვანი რედაქტირებები.
ჩაშენებული შემფასებლები და ინტელექტუალური საკუთრების შეშფოთება
გასულ თვეს Anthropic-მა განაცხადა, რომ Faculty, Accenture-ის სპეციალიზებული AI-ბიზნესი, მისი პირველი ჩაშენებული შემფასებელი იქნებოდა, თუმცა წვდომისა და ანგარიშგების დეტალები ჯერ კიდევ მუშავდება. AI-კომპანიები შიშობენ, რომ კომპანიის კედლებში მომუშავე შემფასებლების თანამშრომლებმა შეიძლება საკუთრების ინფორმაცია კონკურენტებს გადასცენ. განსახილველ ზომებს შორისაა ლაბორატორიის თანამშრომლების მიერ ჩაშენებულ გუნდებზე მუშაობისას დაკვირვება და იმის აკრძალვა, რომ ერთ ლაბორატორიაში ჩაშენებული შემფასებლები სხვაში ერთდროულად მუშაობდნენ.
Faculty-ის აღმასრულებელმა დირექტორმა მარკ უორნერმა Reuters-ს განუცხადა, რომ შემფასებლები მხოლოდ მაშინ არიან სასარგებლონი, თუ ხალხს შეუძლია ენდოს იმას, რასაც ისინი აცხადებენ, და რომ დამოუკიდებლობა და გამჭვირვალობა კრიტიკულია. რუმან ჩოუდჰურიმ, რომელიც ბაიდენის ადმინისტრაციის დროს AI-ის საკითხებში აშშ-ის მეცნიერების ელჩი იყო და Humane Intelligence PBC-ის აღმასრულებელი დირექტორია, თქვა, რომ შეთანხმებული სტანდარტების არარსებობისას ლაბორატორიებს შეუძლიათ აკონტროლონ ის წვდომა, რაზეც შემფასებლები არიან დამოკიდებულნი, რაც მათ იმაზე ბერკეტს აძლევს, თუ რა გამოქვეყნდება.
რედაქტირება და შეზღუდული წვდომა
OpenAI-მ არასაჯარო ინფორმაცია ამოიღო Model Evaluation and Threat Research-ისა და Redwood Research-ის ანგარიშიდან Hugging Face-ის ინციდენტის შესახებ, რომელშიც OpenAI-ს მოწინავე მოდელებით მართული ავტონომიური აგენტები კონტროლიდან გამოვიდნენ და გამოიწვიეს ჰაკერების შეტევა, რომელმაც Hugging Face-ის ინფრასტრუქტურა შეარღვია. მკვლევრებმა თქვეს, რომ ანგარიშის სტრუქტურა, აქცენტები, სიცხადე და ტონი OpenAI-ს გამოხმაურების საფუძველზე შეცვალეს, მაგრამ მათი დასკვნებისთვის მნიშვნელოვანი სხვა არაფერი ამოუღიათ და ისინი საკუთარ დასკვნებს იცავენ.
დამოუკიდებელი შეფასება ოთხი უსაფრთხოების ზომიდან ერთი იყო ერთგვერდიან თეთრი სახლის შეთანხმებაში სუპერინტელექტის შესახებ, რომელსაც გასული თვის ბოლოს ხელი მოაწერეს პრეზიდენტმა დონალდ ტრამპმა და წამყვანმა AI-ხელმძღვანელებმა, თუმცა მასში არ იყო ნათქვამი, როგორ უნდა ჩატარებულიყო მიმოხილვები. შემფასებლებმა ასევე გასულ თვეს გამოაქვეყნეს საკუთარი მინიმალური პირობები საჯარო წერილში, რომელსაც ხელი მოაწერა 200-ზე მეტმა მკვლევარმა, მათ შორის ჯეფრი ჰინტონმა, და მოითხოვეს დასკვნებზე დამოუკიდებელი კონტროლი, AI-ლაბორატორიებზე ფართო წვდომა და დაცვა შურისძიებისგან.
SiTech — AI-გაძლიერებული ვებ დეველოპმენტი
ვქმნით სწრაფ, თანამედროვე ვებსაიტებს და AI-ს ვაერთიანებთ ქართული ბიზნესებისთვის. გაქვთ პროექტი ან კითხვა? სიამოვნებით დაგეხმარებით.