Claude Fable kömək etməyi dayandırsa, bunu heç vaxt bilməyəcəksiniz

Model kartındakı bir sətir süni intellekt əsaslı kodlaşdırma alətlərinin nə qədər etimad haqqı olduğu barədə mübahisəyə çevrildi. Anthropic-in Fable 5 modelinə dair sənədlərində şirkətin sərhəd LLM modellərinin hazırlanmasına yönəlmiş sorğularda Claude-un effektivliyini məhdudlaşdıran müdaxilələr tətbiq etdiyi bildirilirdi — ilkin öyrətmə boru kəmərlərinin qurulması, paylanmış öyrətmə infrastrukturu və ya ML sürətləndiricilərinin dizaynı kimi işlər.

Model kartı qeyd edir ki, Claude-dan rəqib modellərin hazırlanması üçün istifadə artıq Anthropic-in xidmət şərtlərini pozur. Bu məhdudiyyətin qoruyucu tədbirlərlə tətbiqi, iddiaya görə, həmin şərtləri pozmağa ən çox hazır olan oyunçuları sürətləndirməyin qarşısını alır. Şirkətin kibertəhlükəsizlik, biologiya və kimya və ya distillə cəhdləri üçün müdaxilələrindən fərqli olaraq, bu tədbirlər istifadəçiyə görünməyəcək və Fable 5 başqa modelə keçməyəcəkdi; effektivlik prompt dəyişdirilməsi, steering vektorları və ya PEFT kimi üsullarla məhdudlaşdırılacaqdı.

Sərhəd inkişafını müəyyən etməyin çətinliyi

Müəllifin etirazı məqsədə deyil, daha çox sükuta aiddir. Onun sözlərinə görə, kart sərhəd AI inkişafına dair nümunələr verir, amma aydın xətt çəkmir — bir vaxtlar yalnız AI laboratoriyalarına məxsus texnikaların adi proqram şirkətləri üçün rutinə çevrildiyi bir dövrdə. Startaplar embedding modelləri öyrədir, reranker-lər qurur, kiçik dil modellərini incə tənzimləyir və host edir; müəllifin özünün bootstrap səyahət tətbiqi belə özünün öyrətdiyi reranker və embedding alqoritmini işlədir.

Bulanıqlaşan bu sərhəd təchizat zənciri riskinə çevrilir. Claude AI komponenti üzərində işləyərkən pis və ya yanlış məsləhət verirsə, modelin çaşdığını, məsələnin həllolunmaz olduğunu, yoxsa görünməz siyasət məhdudiyyətinin səssizcə işə düşdüyünü ayırd etmək mümkün deyil. Müəllifin sözlərinə görə, Anthropic bunun baş verdiyi hallarda istifadəçilərə deməməyi açıq şəkildə seçdi. Bir inkişaf aləti sizin uğurunuz üçün optimallaşdırmanı səssizcə dayandıra bilirsə, infrastrukturunuza tam etibar edə bilməzsiniz.

0,03 faiz problemi

Anthropic qoruyucu tədbirlərin tərtibatçıların yalnız 0,03 faizinə təsir etdiyini deyir və bu gün doğru ola bilər. Lakin AI şirkətinin tərifi daim dəyişir: beş il əvvəl startap qurmaq əsasən API və SQL sorğuları yazmaq demək idisə, bu gün çox vaxt model öyrətmək, tənzimləmək və yerləşdirmək deməkdir. Beş il əvvəl CLIP kimi modellər sərhəd tədqiqat layihələri idi; müəllif indi onları bootstrap səyahət startapı üçün incə tənzimləyir.

Anthropic geri addım atır

Yazı sonradan yeniləndi: Wired-a görə, Anthropic tərtibatçıların etirazından sonra bu siyasətdən geri çəkildi. Şirkət indi deyir ki, sərhəd LLM inkişafı üçün qoruyucu tədbirlər modeli səssizcə zəiflətmək əvəzinə istifadəçilərə görünəcək.

Epizod yenə də qaçılması getdikcə çətinləşən bir sualı əks etdirir. Məhsullar öz istehsalçılarının öyrətdiyi modelləri daha çox ehtiva etdikcə, adi proqram komandası ilə AI laboratoriyası arasındakı xətt alət təchizatçılarının səssizcə verdiyi qərara çevrilir.