Açık Ağırlıklı AI'nın Kubernetes Anı — Açık Modeller Neden Standart Haline Geliyor
Tıpkı Kubernetes'in konteynerler için standart haline gelmesi gibi, açık ağırlıklı AI modelleri de AI altyapısının temeli oluyor.
Açık Ağırlıklı AI'nın Yükselişi
AI endüstrisi bir dönüm noktasından geçiyor. Açık ağırlıklı AI modelleri — Llama, Qwen, Gemma, Mistral ve diğerleri — hızla AI altyapısının ana yapı taşı haline geliyor. Tobi Knaup, eski Mesosphere/D2iQ CEO'su, bu olguyu açık ağırlıklı AI için "Kubernetes anı" olarak adlandırıyor. Knaup, konteyner orkestrasyonu dünyasında Kubernetes'in yükselişini bizzat deneyimlemiş biri olarak, aynı dinamiğin şimdi AI dünyasında yaşandığını görüyor.
"Kubernetes Anı" AI İçin Ne Anlama Geliyor
2013 yılında Knaup, Apache Mesos üzerine açık kaynaklı bir bulut platformu kuran Mesosphere'ın kurucu ortaklarından oldu. DC/OS'u yarattılar, açık kaynak olarak yayınladılar ve kurumsal dağıtım yoluyla ticarileştirdiler. Ancak Kubernetes — daha yeni ve tamamen açık — hızla dünyanın dört bir yanından en iyi mühendisleri kendine çekti. Yenilik tamamen Kubernetes'e doğru kaydı.
Açık Ağırlıklar Modeli Platforma Dönüştürüyor
Sıklıkla "açık kaynak" olarak adlandırılan modeller, daha doğru bir şekilde "açık ağırlıklı" modeller olarak tanımlanır. Bu talep, sağlıklı bir açık kaynak sunum yığını oluşturdu: vLLM, SGLang, llama.cpp, Ollama, MLX ve diğerleri.