Hard negative mining: modelə "az qala doğrunu" öyrətmək

Model açıq-aşkar yanlış nümunələrdən təəccüblü dərəcədə az öyrənir. dev.to-da dərc olunan texniki yazıda mühəndis Shrijith Venkatramana hard negative mining metodunu sadə axtarış nümunəsi ilə izah edir. "How do I rotate an AWS IAM access key?" sorğusunun yanına Kubernetes pod ölçüsünün dəyişdirilməsi mətnini qoysanız, model onları asanlıqla ayırır. Yanına "How do I create an AWS IAM access key?" qoysanız isə eyni sözlər və eyni obyekt tam başqa cavab daşıyır.

Asan neqativlər ucuzdur və çox vaxt faydasızdır

Kontrast təlimində model uyğun sənədin (d+) uyğunsuz sənəddən (d-) daha yüksək oxşarlıq alması ilə mükafatlandırılır. Asan cüt, 0,82-yə qarşı 0,12, demək olar ki, siqnal daşımır, çünki model ikisinin fərqli olduğunu artıq bilir. Çətin cüt, 0,82-yə qarşı 0,76, onu fərqləndirici xüsusiyyəti tapmağa məcbur edir. Axtarış sistemləri nadir hallarda tamamilə əlaqəsiz nəticə qaytararaq uğursuz olur; tipik səhv yanlış kitabxana versiyası və ya konfiqurasiya təlimatı yerinə quraşdırma təlimatıdır. Eyni məntiq sistemin sıralaması və ya fərqləndirməsi lazım olan hər yerdə keçərlidir: PostgreSQL-lə bağlı dörd parça görən reranker birinin sorğuya niyə cavab verdiyini, digərinin sadəcə əlaqəli olduğunu anlamalıdır.

Dil modellərindən qədim ideya

Metod kompüter görməsində formalaşıb. FaceNet 2015-ci ildə Florian Schroff, Dmitry Kalenichenko və James Philbin tərəfindən dərc edildi; o, üzləri embedding fəzasına yerləşdirir və şəbəkə təkmilləşdikcə üçlüklərin çətinliyini artıran online triplet mining istifadə edirdi. Karpukhin və həmkarlarının Dense Passage Retrieval işi eyni məntiqi mətn axtarışına keçirdi, Microsoft tədqiqatçılarının Lee Xiong və Chenyan Xiong-un da arasında olduğu ANCE işi isə daha irəli getdi: approximate-nearest-neighbour indeksi çətin neqativləri modelin özü ilə tapır. RocketQA dense passage retrieval üçün denoised hard negatives əlavə etdi.

Təcrübədə mining

Əsas prosedur hər sorğu üçün top k namizədi götürür, məlum pozitivi çıxarır və qalanı saxlayır. Tələ budur: çətin olmaq səhv olmaq demək deyil, çox oxşar sənəd əslində faydalı ola bilər və onu uzaqlaşdırmaq axtarış fəzasına zərər verir. Buna görə istehsal boru kəmərləri namizədləri cross-encoder və ya LLM hakimindən keçirərək ehtimal olunan false negative-ləri təmizləyir. Xərc ikinci məhdudiyyətdir: hər birində 20 hard negative olan bir milyon təlim sorğusu təxminən 20 milyon namizəd əlaqəsi deməkdir. Müəllif ucuz birinci mərhələ axtarışını, dövri mining-i və faydalı zolağı ortada, təxminən 0,4-0,8 aralığında olan müəllim ballarını tövsiyə edir.

Niyə işləyir

Kontrast funksiyasında model ehtimal kütləsinin çoxunu pozitiv götürdükdə mükafatlandırılır. Neqativ 0,90-lıq pozitivə qarşı 0,87 aldıqda itki, ən yaxşı neqativin 0,20-də dayandığı hala nisbətən qat-qat böyük qradiyent yaradır. Asan neqativlər fəzanın geniş sahələrini, çətinlər qərar sərhədini öyrədir. Hər turdan sonra yenidən mining dövrü bağlayır: daha yaxşı model daha yaxşı səhvlər yaradır, o səhvlər isə daha yaxşı təlim məlumatına çevrilir.