
Anthropic: Claude Mythos, AMD GPU’ye geçişi yaklaşık üç güne indirdi
Anthropic, IPO yatırımcılarına Claude Mythos Preview’ın AMD GPU’larda AI çalıştırmak için gereken yazılım işini hemen hemen insan müdahalesi olmadan yaklaşık üç günde yaptığını söyledi; şirket bu işin eskiden altı ila 12 ay sürdüğünü belirtti.
Anthropic, IPO yatırımcılarına Claude Mythos Preview modelinin AMD GPU'larda AI çalıştırma için gereken yazılım işini hemen hemen insan müdahalesi olmadan yaklaşık üç günde tamamladığını söyledi. Şirket, bu işin eskiden altı ila 12 ay sürdüğünü ve onlarca mühendis gerektirdiğini belirtti. Üç günlük tahmin, bir Anthropic modelinin AMD MI355X GPU'larda kullanışlı bir performans düzeyinde istem işlemesini kapsıyor.
Çekirdek işi ve Nvidia'nın CUDA hendeki
Claude Mythos, bir AI modelini bir şirketin çiplerine bağlayan düşük seviyeli kod olan çekirdeklerin neredeyse yüzde 100'ünü taşıdı veya yazdı. Bu kod uzun süredir Nvidia'nın CUDA hendeki içinde yer alıyordu; bir AI sisteminin bunu günler içinde yazabilmesi, bu hendekin aşındığını gösterebilir. Anthropic'in kurucu ortağı ve baş hesaplama sorumlusu Tom Brown, zaman karşılaştırmasını yaptı ve özgün çalışmanın onlarca mühendisten oluşan bir ekip kullandığını belirtti.
Anthropic'in çok çipli stratejisi
Anthropic zaten modellerini Nvidia ve AMD'den GPU'lar, Google'ın TPU'ları ve AWS Trainium üzerinde çalıştırıyor ve filosunu tek bir değiştirilebilir hesaplama havuzu olarak yönetiyor. Brown, erken dönemde çok çipli karar almayı alışılmadık bir bahis olarak nitelendirdi. Şirket, geleneksel mühendislik yaklaşımlarıyla yeni hızlandırıcıları devreye alma konusundaki tarihsel deneyiminin, kodu her donanım platformuna göre uyarlamayı içerdiğini ve bu zorluğun altı ila 12 ay sürebildiğini söyledi.
AMD, Nvidia ve kalan sınırlar
Anthropic bu yıl ilk kez AMD GPU'larla çalışmaya başladı ve şu anda 2 gigawata kadar kapasite içeren bir anlaşması yürürlükte. AMD'den Anush Elangovan, Nisan ayında EE Times'a Claude'un web araması yerleşik olduğu için HIPify'dan daha iyi olduğunu söyledi. AMD CEO'su Lisa Su ise Eylül ayında CUDA için yazılmış yapay zeka yazılımlarının büyük kısmının artık yazılımla AMD'ye çevrilebildiğini söyledi. Nvidia CEO'su Jensen Huang, Nisan ayında Nvidia'nın kendi çekirdeklerinde yapay zeka kullandığını ve mimarisini Nvidia'dan daha iyi bilen kimse olmadığını söyledi; Anthropic'i de bir trend değil, tekil bir örnek olarak nitelendirdi. Anthropic, modelin AMD GPU'larda Nvidia'nınkine kıyasla ne kadar hızlı çalıştığını ve istem işlemesinin yanında yanıt adımının dahil edilip edilmediğini söylemedi.
Bundan sonra ne olacak
Helios raflarındaki ilk AMD MI450 çiplerinin 2027'nin ilk yarısında gelmesi bekleniyor. Halka arzı daha erken gerçekleşecek; sonrasında halka açık şirket olarak rapor verecek. Şirketin izahnamesi, yeni çip platformlarını eskiden aldığı sürenin bir kesrinde devreye alabildiğini söylüyor, ancak sayı vermiyor.
Kaynaklar: tomshardware.com
SiTech — AI destekli web geliştirme
Hızlı ve modern web siteleri kuruyor, AI'yı gerçek iş akışlarına taşıyoruz. Projeniz veya sorunuz mu var? Yardımcı olmaktan mutluluk duyarız.