ბლოგი

Fireworks AI-ის ვიცე-პრეზიდენტი: საკუთარ სერვერებზე გაშვებული AI ხშირად GPU-ის ფულის ფლანგვაა

Fireworks AI on-prem განლაგებებს მხარს უჭერს, თუმცა ვიცე-პრეზიდენტი რობ ფერგიუსონი ამბობს, რომ ეკონომიკა მართული inference-ის სასარგებლოდ მუშაობს: უმოქმედო GPU-ების ხარჯი, მოდელების როუტინგი, ქეშირება, მონაცემების ღირებულება და სიჩქარე.