בלוג

אינדקס הוקטורי של הטלפון שלך עשוי להיות גדול יותר ממודל ה-AI שרץ עליו

מודלי AI שרצים על המכשיר מצטמצמים, אך אינדקסים וקטוריים לחיפוש בטלפונים עשויים לתפוס בזיכרון יותר מהמודל עצמו, וזה מעלה שאלות חדשות על ארכיטקטורת AI ניידת וחלוקת משאבים.