Garry Tan: ABŞ-ın açıq çəkili laboratoriyaları da sərhəd modellərini distillə edə bilməlidir

Y Combinator-ın baş direktoru Garry Tan tənzimləyicilərin distillə işinə qarışmamasını üstün tutur — distillə modelin necə işlədiyini və düşündüyünü öyrənmək üçün ona intensiv promptlar göndərilməklə digər modelin öyrədilməsi praktikasıdır. “Mən heç nə etməzdim,” — dedi o, bu həftə CNBC-yə müsahibəsində. “Amerika distillə rejimi olmalıdır deyə mübahisə edə bilərik.”

TechCrunch-la söhbətində Tan bununla kiçik amerikalı açıq çəkili laboratoriyaların ABŞ-ın sərhəd modellərinə eyni təlim texnikalarını tətbiq etməkdə sərbəst olmasını istədiyini izah etdi; beləliklə ABŞ-ın əlində Çin mənşəli olmayan güclü açıq çəkili seçim olsun.

Anthropic-in şikayəti

Bu açıqlamalar ictimai mübahisənin tam ortasına düşür. Bu həftə Anthropic təhdid kəşfiyyatı üzrə ikinci hesabatını dərc etdi və Çin laboratoriyalarının “qeyri-qanuni distillə hücumları” həyata keçirdiyini iddia edir: icazəsiz distillə etmək üçün kimliklərini gizlədir, fırıldaqçılığa və oğurlanmış etimadnamələrə arxalanırlar. Anthropic-in baş direktoru Dario Amodei əvvəllər ABŞ tənzimləyicilərini distilləni məhdudlaşdırmağa açıq şəkildə çağırmışdı.

Tanın mövqeyi diqqətəlayiqdir, çünki o, Silikon Vadininin ən tanınmış startap akseleratoruna rəhbərlik edir və bu çağırışın əks tərəfində dayanır. O, amerikalı laboratoriyaların etimadnamə oğurlamalı olduğunu iddia etmir: fikri ondadır ki, onlar qapıdan girməkdə sərbəst olmalıdırlar.

İki arqument

Onun əsaslandırması ikiqatdır. Birincisi, AI laboratoriyalarının müştərilərinin modellərin paylaşdığı məlumatla nə edə biləcəyini diktə etməsini səlahiyyətdən kənar sayır. İkincisi, o xatırladır ki, qapalı laboratoriyalar öz modellərini öyrətmək üçün bacardıqları qədər insan biliyini toplayarkən icazə istəmirdilər və müəllif hüququ ilə qorunan materialları sahiblərinin razılığı olmadan mənimsəyirdilər.

“İstifadəçilərin və müştərilərin qapalı çəkili modellərə API çağırışları ilə nə etdiyini nəzarətdə saxlamaq məhdudlaşdırıcı görünür,” — dedi o TechCrunch-a və əlavə etdi ki, dövlətin rolu geniş ictimai məlumatlar üzərində öyrədilmiş intellektə çıxışın “məhdudlaşdırıcı xidmət şərtlərinin arxasına qıfıllanmış bir şey deyil, özü də bir növ ictimai nemət olması” fikrini normallaşdırmaqdır.

Kabusa çevrilən tək şirkət

Özü də fəal AI istifadəçisi olan Tan açıq çəkili və sərhəd laboratoriyaları arasında balans istədiyini deyir. “Onlar sərhəddədirlər və onu irəli aparırlar. İstəyirik ki, bu maliyyələşdirilə bilən olsun və əla biznes modeli kimi davam etsin,” — dedi o CNBC-yə; açıq çəkili modellər isə “insanlara azadlıq və çıxış verir”.

Onun üçün əsl qiyamət ssenarisi fərqlidir: sərhəd AI-nın bütün gücünün tək qapalı təchizatçıda toplanması. “AI üçün kabus ssenarisi, qiyamətçilərin ssenarisi tək bir şirkətin qalmasıdır,” — dedi o. “Ən yaxşı kapitala çıxışı olur. Ən yaxşı AI tədqiqatçıları onda olur. İrəli qaçır və birdən tək monolit bir şirkət qalır. Və bu pis olardı.”