Hard negative mining. ինչպես մոդելին սովորեցնում են տարբերել «գրեթե ճիշտը»

Մոդելը զարմանալիորեն քիչ է սովորում ակնհայտ սխալ օրինակներից։ dev.to-ում հրապարակված տեխնիկական գրառման մեջ ինժեներ Shrijith Venkatramana-ն hard negative mining-ը բացատրում է որոնման պարզ օրինակով. եթե «How do I rotate an AWS IAM access key?» հարցման կողքին դնեք Kubernetes pod-ի չափը փոխելու տեքստ, մոդելը դրանք առանց ջանքի կտարբերի։ Իսկ «How do I create an AWS IAM access key?» զույգը կրում է նույն բառապաշարն ու նույն օբյեկտը, բայց բոլորովին այլ պատասխան։

Հեշտ նեգատիվները էժան են և հաճախ անօգուտ

Կոնտրաստային ուսուցման ժամանակ մոդելը պարգևատրվում է, երբ համապատասխան փաստաթուղթը (d+) ավելի բարձր միավոր է ստանում, քան անհամապատասխանը (d-)։ Հեշտ զույգը՝ 0,82 ընդդեմ 0,12-ի, գրեթե ազդանշան չի կրում, քանի որ մոդելն արդեն գիտի, որ դրանք տարբեր են։ Դժվար զույգը՝ 0,82 ընդդեմ 0,76-ի, ստիպում է նրան գտնել տարբերակիչ հատկանիշը։ Որոնման համակարգերը հազվադեպ են ձախողվում բոլորովին անկապ արդյունքով. սովորական սխալը գրադարանի սխալ տարբերակն է կամ կարգավորման ուղեցույցի փոխարեն տեղադրման ուղեցույցը։ Նույն տրամաբանությունը գործում է այնտեղ, որտեղ համակարգը պետք է դասավորի կամ տարբերի. PostgreSQL-ի չորս հատված տեսնող reranker-ը պետք է հասկանա, թե ինչու մեկը պատասխանում է հարցմանը, իսկ մյուսը միայն առնչվում է թեմային։

Գաղափար, որն ավելի հին է, քան լեզվական մոդելները

Մեթոդը ձևավորվել է համակարգչային տեսողության մեջ։ FaceNet-ը 2015-ին հրապարակեցին Florian Schroff-ը, Dmitry Kalenichenko-ն և James Philbin-ը. այն դեմքերը տեղադրում էր embedding տարածությունում և օգտագործում online triplet mining՝ ցանցի բարելավման հետ ավելացնելով եռյակների բարդությունը։ Karpukhin-ի և գործընկերների Dense Passage Retrieval-ը նույն տրամաբանությունը տեղափոխեց տեքստային որոնում, իսկ Microsoft-ի հետազոտողների ANCE-ը, ներառյալ Lee Xiong-ը և Chenyan Xiong-ը, ավելի հեռու գնաց. approximate-nearest-neighbour ինդեքսը դժվար նեգատիվները գտնում է հենց մոդելով։ RocketQA-ն dense passage retrieval-ի համար ավելացրեց denoised hard negatives։

Mining-ը գործնականում

Հիմնական ընթացակարգը յուրաքանչյուր հարցման համար վերցնում է top k թեկնածու, հանում է հայտնի պոզիտիվը և պահում մնացածը։ Թակարդը սա է. դժվարը չի նշանակում սխալ, շատ նման փաստաթուղթը կարող է իրականում օգտակար լինել, և նրան հեռացնելը վնասում է որոնման տարածությանը։ Դրա համար արտադրական փուլերը թեկնածուներին անցկացնում են cross-encoder-ի կամ LLM դատավորի միջով։ Ծախսը երկրորդ սահմանափակումն է. մեկ միլիոն ուսուցողական հարցում և դրանցից յուրաքանչյուրի համար 20 hard negative տալիս է մոտ 20 միլիոն թեկնածուական կապ։ Հեղինակը խորհուրդ է տալիս էժան առաջին փուլ, պարբերական mining և ուսուցչի միավորներ, որոնց օգտակար գոտին մեջտեղում է՝ մոտավորապես 0,4-ից 0,8։

Ինչու է դա աշխատում

Կոնտրաստային ֆունկցիայում մոդելը պարգևատրվում է, երբ հավանականության մեծ մասը բաժին է ընկնում պոզիտիվին։ Երբ նեգատիվը ստանում է 0,87՝ 0,90 պոզիտիվի դիմաց, կորուստը շատ ավելի մեծ գրադիենտ է տալիս, քան 0,20-ի վրա կանգնած նեգատիվը։ Հեշտ նեգատիվները սովորեցնում են տարածության լայն շրջանները, դժվարները՝ որոշման սահմանը։ Յուրաքանչյուր փուլից հետո կրկնակի mining-ը փակում է շղթան. ավելի լավ մոդելը ավելի լավ սխալներ է արտադրում, և այդ սխալները դառնում են ավելի լավ ուսուցողական տվյալ։