GPT-6 Sol ve GPT-6 Luna Amazon Bedrock'ta kullanıma açıldı

OpenAI'nin GPT-6 Sol ve GPT-6 Luna modelleri artık Amazon Bedrock üzerinde genel kullanıma açık. AWS'nin blog yazısına göre bu, platformdaki GPT-6 ailesini genişletiyor; aile daha önce en zorlu projeler için sunulan GPT-6 Astra ile başlamıştı.

İki model, iki iş

AWS'ye göre iki model, zekâ ile verimlilik arasındaki ölçeğin farklı noktalarına hitap ediyor. GPT-6 Sol, geliştirme döngüsü boyunca tekrarlanan zorlu işler için tasarlandı: özellik geliştirme, hata ayıklama, kodu yeniden düzenleme ve inceleme, veri analizi ve farklı araçlarla uygulamalar arasında çok adımlı süreçleri tamamlama. GPT-6 Luna ise yüksek hacimde çalışan odaklı ve tekrarlanabilir görevler için: büyük belge koleksiyonlarından bilgi çıkarma, gelen materyali özetleme, girdileri sınıflandırma ve çok sayıda kullanıcı ya da uygulama için dar kapsamlı soruları yanıtlama.

AWS, iki modelin API fiyatlarının GPT-5.6 öncüllerine göre belirgin biçimde düşük olduğunu söylüyor; şirket bunu daha yetenekli modellerin üretimde düzenli kullanılmasının ana kaldıracı olarak görüyor.

Doğruluk ve sonuç başına maliyet

OpenAI'nin iç doğruluk değerlendirmesinde GPT-6 Sol, GPT-5.6 Sol'a kıyasla yaklaşık yarısı kadar olgusal hata yaptı. Şirket ayrıca modelin neyi değiştirdiği, neyi doğruladığı ve neyi teyit edemediği konusunda daha net bilgi verdiğini belirtiyor; AWS'ye göre bu, insan muhakemesine hâlâ nerede ihtiyaç duyulduğunun görülmesi gereken uzun görevlerde önem taşıyor. GPT-6 Luna içinse OpenAI'nin değerlendirmeleri olgusal güvenilirlikte iyileşme gösteriyor; ayrıca akıl yürütme düzeyi her istek için ayarlanarak kalite, yanıt süresi ve maliyet dengelenebiliyor.

Modelleri karıştırmak ve istem önbelleği

Tek bir uygulama farklı adımlarda farklı zekâ düzeylerine ihtiyaç duyabileceği için AWS yönlendirmeyi pratik bir yaklaşım olarak anlatıyor: gelen istekleri sınıflandırmak için Luna, karmaşık vakaları incelemek için Sol, ek akıl yürütme derinliği bir kararı değiştirebilecekse Astra. Bu düzeni verimli tutmak için iki yeni model Bedrock'ta açık istem önbelleğini destekliyor: geliştiriciler yeniden kullanılacak içeriği — depo talimatları, politika belgeleri, sabit bir çıkarım şeması — işaretleyebiliyor ve sonraki istekler ağırlıklı olarak yeni girdiyi işliyor.

Yönetişim ve veri işleme

Denetim tarafında AWS, IAM politikalarıyla erişim yönetimini, her çağrının CloudTrail ile denetlenmesini, AWS PrivateLink tabanlı VPC uç noktalarını ve operatör erişimi olmayan, donanım düzeyinde yalıtılmış altyapıda çıkarımı sayıyor. Şirkete göre çıkarım verileri model eğitiminde kullanılmıyor ve bu modelleri kullanmak OpenAI ile veri paylaşımına onay vermeyi gerektirmiyor; otomatik kötüye kullanım tespiti için işaretlenen trafik 30 güne kadar saklanıyor. İki model Bedrock konsolunda ve desteklenen API'ler üzerinden kullanılabiliyor.