Cohere-მა Embed 5 წარადგინა: ინდექსირება Pro მოდელით, ძიება Fast-ით

Cohere-მა ოთხშაბათს Embed 5 წარადგინა. მოდელი საშუალებას იძლევა მონაცემები Embed 5 Pro-თი დაინდექსირდეს, იმავე ვექტორებზე ძიება კი იაფი Embed 5 Fast-ით შესრულდეს, მეორე ინდექსის გარეშე. Cohere ინდექსირებისთვის Pro-ს, ძიებისთვის Fast-ის გამოყენებას გირჩევს, განსაკუთრებით RAG და აგენტურ სისტემებში, სადაც ერთი და იგივე მონაცემები არაერთხელ იძებნება და დაყოვნება გროვდება.

საძიებო ხარისხში კომპრომისი მცირეა. ტექსტის, სურათების, შერწყმული და დამუშავებული დოკუმენტების 40 ნაკრებზე Pro ინდექსზე შესრულებულმა Fast ძიებამ Pro-to-Pro საბაზისო 100-ის ფონზე 98,4 ქულა მიიღო; Fast რომ ინდექსირებაზეც გამოეყენებინათ, მაჩვენებელი 96,6-მდე დაეცა. Cohere-ის თქმით, ცალკეულ ნაკრებებზე მკვეთრი ვარდნა არ დაფიქსირებულა.

ერთი ვექტორული სივრცე, ორი მოდელი

Pro და Fast ერთ ვექტორულ სივრცეს იზიარებენ, ამიტომ მათ შორის გადართვა კორპუსის ხელახლა დამუშავების გარეშე შეიძლება. ორივე ერთი განზომილების თავსებად ვექტორებს ქმნის და Matryoshka-ს შემცირებასთან ან int8 კვანტიზაციასთან ერთად მათი შერევაც შესაძლებელია. Pro მილიონ ტოკენზე 0,12 დოლარი ღირს, Fast კი 0,08 და ტესტებში დოკუმენტების დამუშავების საშუალოდ 2,4-ჯერ მაღალ სიჩქარეს დებს, ამიტომ Pro ინდექსში შემავალ დოკუმენტებს ამუშავებს, Fast კი მძიმე საძიებო ტრაფიკს იღებს.

ვექტორების შემცირება

ორივე მოდელი 256-2048 განზომილებას და float32, int8, binary ფორმატებს უჭერს მხარს. Cohere-ის შეფასებით, 2048-განზომილებიანი float32 ვექტორი 8 კილობაიტია, ანუ დაახლოებით 819 გბ 100 მილიონი ნაწილისთვის; 1024-განზომილებიანი int8 ვექტორი ამ მოცულობას 102 გბ-მდე ამცირებს, 256-განზომილებიანი binary კი 3,2 გბ-მდე. უმეტეს განლაგებისთვის Cohere 1024-განზომილებიან int8-ს გირჩევს, binary კი ძლიერ შეკუმშვას იძლევა ხარისხის დანაკარგით.

ძიება ტექსტის მიღმა

Embed 5 ტექსტს, სურათებს და შერწყმულ ტექსტურ-სურათულ შეტანას 100-ზე მეტ ენაზე უჭერს მხარს, 128K ტოკენის კონტექსტით. Cohere-ის მონაცემებით, ხუთმონაცემიან შერწყმულ შეფასებაში Pro-მ 82,3 ქულა აიღო, Fast-მა 81,2, Google-ის Gemini Embedding 2-მა 61,3; ViDoRe V3-ზე Pro 85,8 და Fast 84,5 იყო, წინა Embed 4-ის 77-ის წინააღმდეგ. მრავალენოვან ტესტებში Pro ხუთენოვან ევროპულ საშუალოში 77 ქულით ლიდერობს, თუმცა ცხრა ტესტში Gemini Embedding 2-ს ჩამორჩება.

ბენჩმარკის დეტალები

Embed 5 Cohere-ის პირველი ოჯახია, რომელიც RCP-nDCG@10-ით შეფასდა; ეს მიდგომა ფიქსირებული ნიშნულების ნაცვლად შეკითხვაზე მორგებულ კრიტერიუმებს იყენებს. ის ორიგინალური ნიშნულებით გამოტოვებულ შედეგებს აღმოაჩენს, თუმცა ფიქსირებულ კანდიდატებზე გადახარისხებას ზომავს და არა სრული კორპუსიდან პირველად ძიებას, ამიტომ მაჩვენებლები პირდაპირ შედარებადი არ არის.

მთავარი ცვლილება ისაა, რომ Embed 5 ინდექსირებასა და მოთხოვნების მომსახურებას ცალკეულ გადაწყვეტილებებად განიხილავს: ერთი კორპუსი საძიებო ხარისხისთვის ინდექსირდება, შეკითხვის გზა კი გამტარუნარიანობასა და დაყოვნებაზე ოპტიმიზდება. Cohere-ის 98,4 ქულა მცირე დანაკარგზე მიუთითებს, თუმცა წარმოების სისტემებს მაინც მოუწევთ კონფიგურაციის შემოწმება საკუთარ კორპუსზე. Embed 5 Pro და Fast Cohere-ის API-სა და Model Vault-ში, Microsoft Foundry-სა და Amazon SageMaker-შია ხელმისაწვდომი; კერძო VPC და on-premises განლაგება vLLM-ით მუშაობს.