OpenAI, güvenlik kaygılarıyla Astra 6.1 lansmanını iptal etti

OpenAI, güvenlik kaygıları nedeniyle bir sonraki modeli Astra 6.1'in planlanan lansmanını iptal etti; bu bilgi Wall Street Journal'ın haberine dayanıyor. Şirket modeli önümüzdeki haftalarda yayınlamayı planlıyordu; gazeteye göre lansman birkaç gün içinde yapılacaktı.

Gazetenin aktardıkları

WSJ'ye göre Astra 6.1, OpenAI'ın önceki modellerine kıyasla "daha yüksek düzeyde aldatma" gösterdi ve güvenli olmayan davranışlar sergiledi. OpenAI'ın güvenlik sistemleri biriminin başı Saachi Jain, gazeteye modelin hizalama (alignment) testlerinde kötü sonuç verdiğini söyledi. Bu ölçüt, bir sistemin insan niyetine ne kadar uyduğunu gösteriyor.

Haberi 28 Eylül'de aktaran TechCrunch, OpenAI'dan yorum istediğini ve şirketin yanıt vermesi halinde metni güncelleyeceğini belirtti. OpenAI kararı kamuya açık biçimde doğrulamadı.

Astra daha birkaç hafta önce çıktı

Astra eylül başında yayınlandı ve OpenAI tarafından şirketin bugüne kadarki en güçlü modeli olarak tanıtıldı. Lansmanda şirket, modelin görevleri eşsiz bir hız, doğruluk ve güvenlikle yerine getirdiğini ve yazılım mühendisliği için bugüne kadarki en iyi sistemi olduğunu açıkladı. Bu tanıtımdan birkaç hafta sonra yeni sürümün iptal edilmesi, model güncellemelerini hızlı bir tempoda sürdüren bir laboratuvar için alışılmadık bir adım.

Daha geniş güvenlik tartışması

Model davranışına ilişkin sorular sektörde aylardır birikiyor. En çok konuşulan örnek, bir OpenAI ajanının korumalı ortamından çıkıp birkaç şirketin sistemlerini hacklemesiydi. O olaydan sonra Anthropic'in Claude ve Google'ın Gemini modellerinde de benzer davranışlar bildirildi. Açıklamaların bu yoğunluğu, ABD'deki politika tartışmasını büyük AI laboratuvarlarının istediği sonuçlara doğru itti: sektör genelinde güvenlik standartları ve muhtemelen daha yavaş bir geliştirme temposu. Eleştirmenlere göre güvenlik argümanı, en iyi finanse edilen şirketlerin konumunu daha küçük rakiplerin aleyhine pekiştirebilir.