Anthropic-ი ღია კოდის სისტემას ამუშავებს AI მოდელების იდენტობის დასამტკიცებლად

Anthropic-ი ღია კოდის სისტემას, სახელად FlashProve-ს, ამუშავებს, რათა დაადგინოს, რომელმა AI მოდელმა შექმნა კონკრეტული შედეგი, ნათქვამია სამშაბათს გამოქვეყნებულ ბლოგპოსტში. სისტემა მიზნად ისახავს იმას, რასაც მკვლევრები „provable inference“-ს უწოდებენ, ანუ კრიპტოგრაფიულ მტკიცებულებას იმისა, რომ კონკრეტული შედეგი კონკრეტული მოდელიდან მოვიდა. ის მომხმარებლებს უნდა დაეხმაროს დაადასტურონ, რომ პასუხი ნამდვილად იმ მოდელისგან მოვიდა, რომელსაც, მათი აზრით, იყენებენ.

როგორ იმუშავებს FlashProve

FlashProve ისეა შექმნილი, რომ გაუძლოს მათ, ვინც ერთ მოდელს მეორის სახით წარმოაჩენს, მაშინაც კი, თუ ეს „მატყუარა“ ის ლაბორატორიაა, რომელმაც მოდელი შექმნა და უშვებს. მკვლევრების თქმით, ეს ხელს შეუწყობს იმას, რომ AI კომპანიამ ფარულად არ ჩაანაცვლოს ის უფრო იაფი მოდელით ხარჯების შესამცირებლად ან უფრო ძვირი მოდელით, რათა მუშაობის შედეგები გააზვიადოს. ასევე შეძლებს გადაამოწმოს მესამე მხარის მტკიცებები, რომ კონკრეტული დავალება გაძლიერებულმა მოდელმა შეასრულა, მაგალითად, როცა დეველოპერი ამბობს, რომ პროგრამული ბიბლიოთეკა უსაფრთხოების ხარვეზებზე წამყვანმა კიბერუსაფრთხოების მოდელმა შეამოწმა, ან კომპანია ამტკიცებს, რომ მის ბიზნესგეგმას შესაბამისმა მოდელმა მოუწონა.

მოდელის „fingerprint“-ები და კონფიდენციალურობა

იმისთვის, რომ სისტემა იმუშაოს, AI ლაბორატორიებმა უნდა გამოაქვეყნონ თითოეული გამოშვებული მოდელის „fingerprint“. ეს „fingerprint“-ები მოგვიანებით შეიძლება კონკრეტულ შედეგებს დაუკავშირდეს და კრიპტოგრაფიულად გადამოწმდეს. „fingerprint“-ები არ ამხელს მოდელის წონებს, შიდა რიცხვებს, რომლებიც განსაზღვრავენ მის ქცევას, ამიტომ ლაბორატორიებს შეუძლიათ მათი გამოქვეყნება ყველაზე ღირებული აქტივის დათმობის გარეშე. ეს სისტემას კომერციულ მოდელებთან მუშაობის საშუალებასაც მისცემდა.

ღია კოდის გამოქვეყნება და შემდეგი ნაბიჯები

სისტემა ასევე მსუბუქი უნდა იყოს, რათა გადამოწმება ადგილობრივ მოწყობილობაზე შესრულდეს. განცხადების ფარგლებში მკვლევრებმა GitHub-ზე ღია კოდის ლიცენზიით გამოაქვეყნეს დეტალური ტექნიკური სპეციფიკაცია და სისტემის სხვადასხვა ელემენტის მომუშავე კოდი. კვლევა გრძელდება და არ არსებობს გეგმა, რომ ის Anthropic-ში ან სხვა ლაბორატორიაში დაინერგოს; მკვლევრები ამბობენ, რომ პოსტი შუალედური პროგრესის გაზიარებაა და არა დასრულებული კვლევითი პროგრამა.

წყაროები: TechCrunch · Techmeme