Anthropic AI modellərinin kimliyini sübut etmək üçün açıq mənbəli sistem üzərində işləyir

Çərşənbə axşamı dərc olunan blog yazısına görə, Anthropic FlashProve adlı açıq mənbəli sistem üzərində işləyir; bu sistem müəyyən çıxışın hansı AI modeli tərəfindən yaradıldığını yoxlamaq üçündür. Sistem tədqiqatçıların “sübut oluna bilən nəticə çıxarma” adlandırdığı şeyi təmin etmək üçün nəzərdə tutulub: müəyyən çıxışın konkret modeldən gəldiyini göstərən kriptoqrafik sübut. O, istifadəçilərə cavabın həqiqətən düşündükləri modeldən gəldiyini təsdiqləməyə imkan vermək üçündür.

FlashProve necə işləyəcək

FlashProve bir modeli başqası kimi göstərməyə çalışan saxtakarlar qarşısında davamlı olmaq üçün qurulub; saxtakar modeli qurub işlədən laboratoriya olsa belə. Tədqiqatçılar deyir ki, o, AI şirkətinin xərcləri azaltmaq üçün gizli şəkildə daha ucuz modelə keçməsinin qarşısını almağa və ya performans nəticələrini şişirtmək üçün daha bahalı modelə keçməsinin qarşısını almağa kömək edə bilər. O, həmçinin üçüncü tərəflərin müəyyən tapşırığın qabaqcıl model tərəfindən yerinə yetirildiyi iddialarını yoxlaya bilər; məsələn, tərtibatçının proqram kitabxanasının qabaqcıl kiber təhlükəsizlik modeli tərəfindən zəifliklərə görə skan edildiyini iddia etməsi və ya şirkətin biznes planının uyğun model tərəfindən təsdiqləndiyini iddia etməsi.

Model barmaq izləri və məxfilik

İşləməsi üçün sistem AI laboratoriyalarından buraxdıqları hər modelin “barmaq izi”ni dərc etməyi tələb edir. Həmin barmaq izləri sonradan müəyyən çıxışlarla uyğunlaşdırılıb kriptoqrafik şəkildə yoxlanıla bilər. Barmaq izləri modelin çəkilərini, yəni onun davranışını müəyyən edən daxili rəqəmləri açıqlamır, ona görə də laboratoriyalar ən qiymətli aktivlərindən imtina etmədən onları dərc edə bilər. Bu, sistemin kommersiya modelləri ilə də işləməsinə imkan verərdi.

Açıq mənbəli buraxılış və növbəti addımlar

Sistem həmçinin yüngül olmaq üçün nəzərdə tutulub, ona görə də yoxlama yerli cihazda yerinə yetirilə bilər. Elanın bir hissəsi olaraq tədqiqatçılar sistemin müxtəlif elementləri üçün ətraflı texniki spesifikasiya və işlək kodu açıq mənbəli lisenziya altında GitHub-da buraxdılar. Tədqiqat davam edir və Anthropic və ya hər hansı digər laboratoriyada onu yerləşdirmək planları yoxdur; tədqiqatçılar yazını tamamlanmış tədqiqat gündəmi yox, aralıq irəliləyişin paylaşılması kimi təsvir edirlər.

Mənbələr: TechCrunch · Techmeme