Cohere Embed 5-i təqdim etdi: Pro ilə indeksləmə, Fast ilə axtarış

Cohere çərşənbə günü Embed 5-i təqdim etdi. Model məlumatların Embed 5 Pro ilə indekslənməsinə, eyni vektorlar üzərində axtarışın isə daha ucuz Embed 5 Fast ilə ikinci indeks olmadan aparılmasına imkan verir. Cohere indeksləmə üçün Pro, axtarış üçün Fast istifadə etməyi tövsiyə edir, xüsusilə eyni məlumatların dəfələrlə axtarıldığı və gecikmənin yığıldığı RAG və agent əsaslı sistemlərdə.

Axtarış keyfiyyətində güzəşt azdır. Mətn, şəkil, birləşmiş və emal edilmiş sənədlərdən ibarət 40 dəst üzrə Pro indeksində aparılan Fast axtarış Pro-to-Pro 100 bazasında 98,4 bal aldı; Fast indeksləmədə də istifadə edilsəydi, göstərici 96,6-ya düşərdi. Cohere-in sözlərinə görə, ayrı-ayrı dəstlərdə kəskin düşmə qeydə alınmayıb.

Bir vektor məkanı, iki model

Pro və Fast eyni vektor məkanını paylaşır, buna görə aralarında keçid korpusu yenidən emal etmədən mümkündür. İkisi də eyni ölçülü uyğun vektorlar yaradır və Matryoshka azaldılması və ya int8 kvantlaşdırma ilə birlikdə onları qarışdırmaq da mümkündür. Pro milyon token üçün 0,12 dollar, Fast isə 0,08 dollar təşkil edir və testlərdə sənədlərin emalında orta hesabla 2,4 dəfə yüksək sürət göstərir, buna görə Pro indeksə daxil olan sənədləri emal edir, Fast isə ağır axtarış trafikini götürür.

Vektorların azaldılması

Hər iki model 256-2048 ölçüsünü və float32, int8, binary formatlarını dəstəkləyir. Cohere-in qiymətləndirməsinə görə, 2048 ölçülü float32 vektoru 8 kilobaytdır, yəni 100 milyon hissə üçün təxminən 819 GB; 1024 ölçülü int8 vektoru bu həcmi 102 GB-a, 256 ölçülü binary isə 3,2 GB-a endirir. Əksər yerləşdirmələr üçün Cohere 1024 ölçülü int8 tövsiyə edir, binary isə keyfiyyət itkisi ilə güclü sıxılma verir.

Mətndən kənar axtarış

Embed 5 mətni, şəkilləri və birləşmiş mətn-şəkil girişini 100-dən çox dildə, 128K token konteksti ilə dəstəkləyir. Cohere məlumatlarına görə, beş komponentli birləşmiş qiymətləndirmədə Pro 82,3 bal, Fast 81,2, Google-un Gemini Embedding 2-si isə 61,3 bal aldı; ViDoRe V3-də Pro 85,8, Fast isə 84,5 oldu, əvvəlki Embed 4-ün 77-nin fonunda. Çoxdilli testlərdə Pro beşdilli Avropa ortalamasında 77 balla liderdir, lakin doqquz testdə Gemini Embedding 2-dən geri qalır.

Benchmark təfərrüatları

Embed 5 Cohere-in RCP-nDCG@10 ilə qiymətləndirilən ilk ailəsidir; bu yanaşma sabit işarələr yerinə sorğuya uyğunlaşdırılmış meyarlardan istifadə edir. O, orijinal işarələrlə buraxılmış nəticələri aşkar edir, lakin tam korpusdan ilkin axtarışı deyil, sabit namizədlər üzrə yenidən sıralamanı ölçür, buna görə göstəricilər birbaşa müqayisə edilə bilməz.

Əsas dəyişiklik Embed 5-in indeksləmə və sorğu xidmətini ayrı qərarlar kimi nəzərdən keçirməsidir: bir korpus axtarış keyfiyyəti üçün indekslənir, sorğu yolu isə məhsuldarlıq və gecikmə üçün optimallaşdırılır. Cohere-in 98,4 balı kiçik itkiyə işarə edir, lakin istehsalat sistemləri yenə də öz korpuslarında konfiqurasiyanı yoxlamalı olacaq. Embed 5 Pro və Fast Cohere API-si və Model Vault, Microsoft Foundry və Amazon SageMaker-də mövcuddur; özəl VPC və on-premises yerləşdirmə vLLM ilə işləyir.