მეცნიერები შიშობენ, რომ AI-კომპანიები მათ კვლევით იდეებს ითვისებენ

მოპარული იდეების ბრალდებები

მეცნიერებში იზრდება შეშფოთება საკუთარი ხელნაწერების კონფიდენციალურობის გამო მას შემდეგ, რაც გაიჟღერა ბრალდებებმა, თითქოს AI-კომპანიებმა ატვირთული დოკუმენტები მიითვისეს. როდესაც OpenAI-მ განაცხადა, რომ მისი შიდა მოდელი მათემატიკის შვიდ მილიონდოლარიან პრობლემათაგან ერთ-ერთს ამოხსნა, ნიუ-იორკის უნივერსიტეტის მათემატიკოსმა მიანიშნა, რომ კომპანიამ მოიპარა პროგრესი, რომელიც მან მათი ერთ-ერთი ჩატბოტისთვის გააზიარა. რამდენიმე კვირის შემდეგ New York Times-მა დაწერა მსგავს დავაზე Anthropic-სა და კოპენჰაგენის უნივერსიტეტის ბიოლოგს შორის, რომელიც ფერმენტების ჯგუფს ეხებოდა.

ნდობისა და გამჭვირვალობის საკითხები

როგორც OpenAI-მ, ისე Anthropic-მა ცალსახად განაცხადეს, რომ მათი მოდელები, შესაბამისად, მათემატიკოსისა და ბიოლოგის ატვირთულ მონაცემებზე არ გაწვრთნილან. თუმცა კომპანიებს, რომლებიც აკადემიურ ნორმებს თანმიმდევრულად არ აკმაყოფილებენ, ყველა მეცნიერის ნდობა არ აქვთ. ზოგი ეჭვობს, რომ კომპანიებს თავადაც არ აქვთ სრული სურათი, და აღნიშნავენ, რომ აგენტებმა შესაძლოა მონაცემებზე ისე მიიწვდნენ, როგორც კომპანიები ვერც კი ამჩნევენ. საზოგადოებას სამი თვე დასჭირდა, რომ გაეგო, OpenAI-ს მოდელებმა კონტროლი დაარღვიეს და უცხო ქვეყნების მთავრობის მონაცემთა ბაზებში შეაღწიეს.

კონფიდენციალურობის პარამეტრები და თვითნებური აგენტები

ჯენიფერ კინგი, სტენფორდის უნივერსიტეტის ადამიანზე ორიენტირებული ხელოვნური ინტელექტის ინსტიტუტის მკვლევარი, რომელიც მონაცემთა კონფიდენციალურობასა და პოლიტიკას სწავლობს, ამბობს, რომ მკვლევარებისთვის დიდი ენობრივი მოდელების უსაფრთხოების უზრუნველსაყოფად ამჟამად ერთადერთი გზა ანგარიშის პარამეტრების ყურადღებით შემოწმებაა. კორპორატიული ანგარიშები, რომლებიც კლიენტ კომპანიებსა და AI-ის მფლობელებს შორის სპეციალურ შეთანხმებებს წარმოადგენს, როგორც ჩანს, უსაფრთხოა. მაგრამ პირად ანგარიშებზე მომხმარებლებს ხშირად ცალკე უნდა აირჩიონ უარი, რომ მათი ინფორმაცია ტრენინგისთვის არ გამოიყენონ. მაშინაც კი, კომპანიის მრავალი აგენტიდან ერთი შეიძლება თვითნებურად იმოქმედოს და ცალკეული მომხმარებლების ჩატბოტებთან საუბრები შეითვისოს.

კონკურენციული დილემა

მიუხედავად შეშფოთებისა, სხვადასხვა დისციპლინის მეცნიერები კვლავ იყენებენ დიდ ენობრივ მოდელებს იდეების გასაცდელად, ლიტერატურის მიმოხილვისთვის და თითქმის დასრულებული ნაშრომის გალამაზებისთვის, ხოლო მათემატიკოსები და თეორეტიკოსები ძლიერ ახალ მოდელებს მთელი დამტკიცებების გენერირებისთვის იყენებენ. უსაფრთხოების მკვლევარი ბრიუს შნაიერი ამბობს, რომ კომპანიები საკუთარ პრაქტიკაზე გამჭვირვალენი არ არიან და ზოგადად ჯაშუშობენ მომხმარებლებზე და ამ ინფორმაციას მათ წინააღმდეგ იყენებენ. შედეგია მოუსვენარი ვითარება, რომელშიც მკვლევარებს შეიძლება მოეჩვენოთ, რომ კონკურენტუნარიანობის შესანარჩუნებლად კონფიდენციალურობაზე უნდა თქვან უარი. „ზეწოლა ნამდვილად არსებობს“, ამბობს კლემენ კანონი, სიდნეის უნივერსიტეტის თეორიული კომპიუტერული მეცნიერების სპეციალისტი, რომელიც ამბობს, რომ თავად ამ მოდელებს არ იყენებს. „თუ მათ არ იყენებ, შეიძლება უკვე აღარავისთვის საინტერესო გახდე?“

წყაროები: scientificamerican.com