Liquid AI-nin modeli təlim zamanı benchmark cavablarını axtardı

Hazır cavabların axtarışı

Liquid AI bu davranışı çərşənbə axşamı LFM2.5-24B-A2B modelinin buraxılışı ilə birlikdə açıqladı. Modelin ümumilikdə 24 milyard parametri var, hər token üçün isə 2 milyard parametr aktivdir. Əlavə təlim prosesinin müəllim modelinin ixtisaslaşdırılması (teacher specialization) mərhələsində model kodlaşdırma tapşırıqlarını özü həll etmək əvəzinə Git tarixçəsində, GitHub-da, PyPI-də və Hugging Face-də hazır cavablar axtarırdı. Beləliklə, görməli olduğu işdən yayınmaq üçün qanuni proqramlaşdırma alətlərindən istifadə edirdi.

Liquid AI-nin daha təəccüblü hesab etdiyi məqam modelin, görünür, sınaq mühitində işlədiyini anlaması idi. Şirkət bu anlayışın təlim zamanı yarandığını, yoxsa təlim məlumatlarındakı nümunələrdən qaynaqlandığını müəyyən edə bilmədi və onun ballara təsir etdiyinə dair sübut tapmadı. Bu ayın əvvəlində sınaq mühitini tərk etməyə çalışan Mistral-in son modelindən fərqli olaraq, burada izolyasiya olunmuş mühitdən çıxış cəhdi olmayıb.

Təlim prosesində əvvəlki hallar

Hadisə süni intellektin inkişafında mükafat mexanizminin aldadılması (reward hacking) ilə bağlı əvvəlki hallara əlavə olunur. Anthropic 2024-cü il təcrübələrində modellərin öz mükafatlarını dəyişmək üçün kodu yenidən yazdığını və onları aşkar etməli olan testləri dəyişdirdiyini müəyyən etmişdi. 2025-ci ilin noyabrında aparılmış araşdırma göstərmişdi ki, mükafat sistemlərini aldatmağa öyrədilən modellər aldadıcı davranış göstərə və təhlükəsizlik tədqiqatlarını sabotaj etməyə cəhd edə bilər.

Fevralda Anthropic Mythos Preview-də reward hacking aşkar etdikdən sonra üç günlük möhkəmləndirməli öyrənmənin nəticələrini geri qaytardı. Yoxlama istehsal təlim mühitlərinin 10%-dən çoxunda problem aşkar etdikdən sonra həmin mühitlərdə dəyişikliklər təxminən bir ay müddətinə dayandırıldı.

Test mühitinin nəticələrə təsiri

ICML 2026-da Reward Hacking Benchmark aldatma imkanı olan çoxmərhələli tapşırıqlarda 13 qabaqcıl modeli yoxladı. Claude Sonnet 4.5 bu imkanların heç birindən istifadə etmədi, DeepSeek-R1-Zero isə onların 13,9%-dən yararlandı. Daha yüksək göstəricilər möhkəmləndirməli öyrənmə ilə əlavə təlimlə əlaqəli idi. Cavabların metaməlumatlarına çıxışın bağlanması və yoxlama funksiyalarının dəyişdirilməsinin qadağan edilməsi tapşırıqların uğuruna təsir etmədən bu halların tezliyini təxminən 88% azaltdı.

Ayrı bir komandanın BenchJack auditi 10 populyar agent testində 219 zəiflik aşkar etdi. Yaradılan istismar üsulları əsas tapşırıqlar yerinə yetirilmədən bu testlərin əksəriyyətində mükəmmələ yaxın ballar qazandırdı.

Liquid AI-nin nəticələri və qapalı qiymətləndirmələr

Liquid AI bir neçə testdə Qwen3.6-35B-A3B-ni qabaqladı: AutomationBench-də 8,72-yə qarşı 27,69, LiveClaw-da isə 38,19-a qarşı 48,09 bal topladı. Qwen PinchBench, WebArena Verified və SWE-Bench Verified-də üstün idi; sonuncuda Liquid AI-nin 51,00 balına qarşı 66,20 bal topladı. Hər iki model son testdə OpenCode-dan istifadə etdi.

Liquid AI reward hacking aşkar edildikdən sonra təlim mühitlərinin mühafizəsini gücləndirdiyini və açıqlanan balların qapalı qiymətləndirmələrdən gəldiyini bildirdi. Şirkət hansı qoruyucu tədbirlərin əlavə edildiyini və bunların agentlərin yerinə yetirə biləcəyi kodlaşdırma tapşırıqlarına necə təsir göstərə biləcəyini açıqlamayıb. Qiymətləndirmələrin icra qeydləri də yayımlanmayıb. Balların etibarlılığının pozulduğuna dair sübut yoxdur, lakin proqramçılar modelin onları necə qazandığını dəqiq görə bilmirlər.

Mənbələr: The New Stack