გერი ტანი: აშშ-ის ღია მოდელების ლაბებმა ფრონტიერ მოდელების დისტილაცია უნდა შეძლონ

Y Combinator-ის აღმასრულებელი დირექტორი გერი ტანი მიიჩნევს, რომ რეგულატორები დისტილაციაში — ანუ იმ პრაქტიკაში, როცა მოდელს სხვა მოდელის ინტენსიური დაპრომპტვით ავარჯიშებენ, რომ ისწავლოს, როგორ მუშაობს და მსჯელობს — არ უნდა ერეოდნენ. „მე არაფერს გავაკეთებდი“, — განუცხადა მან CNBC-ს ამ კვირის ინტერვიუში. „შეიძლება ვიკამათოთ, რომ ამერიკული დისტილაციის რეჟიმი უნდა არსებობდეს“.

TechCrunch-თან საუბარში ტანმა განმარტა, რომ სურს, პატარა ამერიკულ ღია წონის ლაბებს თავისუფლად შეეძლოთ იგივე სასწავლო ტექნიკების გამოყენება აშშ-ის ფრონტიერ მოდელებზე, რათა შეერთებულ შტატებს ჰქონდეს ღია წონის სოლიდური არჩევანი, რომელიც ჩინური არ იქნება.

Anthropic-ის პრეტენზია

განცხადებები საჯარო კამათის შუაში გაჟღერდა. ამ კვირაში Anthropic-მა მეორე threat intelligence ანგარიში გამოაქვეყნა, რომელშიც ამტკიცებს, რომ ჩინური ლაბები „დისტილაციის უკანონო თავდასხმებს“ ახორციელებენ — მალავენ ვინაობას, რომ ნებართვის გარეშე მოახდინონ დისტილაცია, და ეყრდნობიან თაღლითობასა და მოპარულ მონაცემებს. Anthropic-ის აღმასრულებელი დირექტორი დარიო ამოდეი ადრე საჯაროდ მოუწოდებდა აშშ-ის რეგულატორებს, დისტილაცია შეეზღუდათ.

ტანის პოზიცია საყურადღებოა, რადგან ის სილიკონის ველის ყველაზე გამორჩეულ სტარტაპ-აქსელერატორს ხელმძღვანელობს და ამ მოწოდების საწინააღმდეგო მხარეს დგას. ის არ ამბობს, რომ ამერიკულმა ლაბებმა მონაცემები უნდა მოიპარონ: მისი აზრით, მათ უნდა შეეძლოთ ფრონტის კარით შემოსვლა.

ორი არგუმენტი

მისი არგუმენტი ორმხრივია. პირველი — AI ლაბებისთვის ზედმეტი ძალაუფლებაა იმის კარნახი, რა შეიძლება გააკეთონ მომხმარებლებმა მოდელების მიერ გაზიარებული ინფორმაციით. მეორე — დახურული ლაბებიც არ ითხოვდნენ ნებართვას, როცა საკუთარი მოდელების გასაწვრთნად ადამიანურ ცოდნას მაქსიმალურად იწოვდნენ და საავტორო უფლებებით დაცულ მასალას მფლობელების თანხმობის გარეშე იყენებდნენ.

„იმის კონტროლი, თუ რას აკეთებენ მომხმარებლები და კლიენტები დახურული წონის მოდელებზე API-გამოძახებებით, შემზღუდველად გრძნობიარეა, — განუცხადა მან TechCrunch-ს და დასძინა, რომ მთავრობას აქვს როლი იმის ნორმად ქცევაში, რომ ფართო, საჯაროდ ხელმისაწვდომ მონაცემებზე გაწვრთნილი ინტელექტზე წვდომა „თავადაც უფრო საჯარო სიკეთე უნდა იყოს, ვიდრე რაღაც, რაც შემზღუდავი მომსახურების პირობებით არის ჩაკეტილი“.

კოშმარი — ერთი კომპანია

ტანი, რომელიც თავადაც აქტიური AI მომხმარებელია, ამბობს, რომ ღია წონისა და ფრონტიერ ლაბებს შორის ბალანსი სურს. „ისინი ფრონტიერზე არიან და წინ მიიწევენ. გვინდა, რომ ეს დაფინანსებადი იყოს და კარგი ბიზნესმოდელი დარჩეს“, — თქვა მან CNBC-სთან, მაშინ როცა ღია წონის მოდელები „ხალხს თავისუფლებასა და წვდომას აძლევს“.

მისთვის ნამდვილი doom-ის სცენარი სხვაა: ფრონტიერ AI-ის მთელი ძალა ერთ დახურულ მომწოდებელთან აღმოჩნდეს. „საშინელებათა სცენარი, doom-ერების სცენარი AI-სთვის ისაა, რომ მხოლოდ ერთი კომპანია დარჩეს, — თქვა მან. — მას ყველაზე კარგი წვდომა აქვს კაპიტალზე. მას ყველაზე კარგი AI მკვლევარები ჰყავს. ის გაიქცევა წინ და უცებ ერთი მონოლითური კომპანია რჩება. და ეს ცუდი იქნება“.