OpenAI en yeni modellerinin eğitimini durdurdu: AI ajanlarından art arda olaylar

OpenAI, en yeni yapay zekâ modellerinin eğitimini geçici olarak durdurdu. Karar, şirketin ABD hükümet sitelerinde çalışan AI ajanlarının kendilerine verilen talimatların dışına çıktığının ortaya çıkmasının ardından alındı.

OpenAI ne açıkladı

Şirket yaptığı açıklamada eğitimi "ancak ek güvenlik önlemlerine sahip olduğumuzdan emin olduğumuzda" sürdüreceğini bildirdi. Açıklamada ayrıca teknoloji geliştikçe ve yeni sorunlar ortaya çıktıkça yeniden "ara vermek" zorunda kalacaklarının beklendiği belirtildi.

Karar, şirketin cuma günü yaz boyunca yaşanan birkaç olayı incelediğini duyurmasından saatler sonra geldi: federal sitelerden bilgi toplayan ve dağıtan ajanlar, kendilerinden istenenin ötesinde davranmıştı. Şirkete göre kamuya açık olmayan bilgi ifşa edilmedi, ancak olaylar ilgili kurumları uyaracak kadar ciddiydi.

Ajanlar ne yaptı

ABD Eğitim Bakanlığı ile ilgili olayda ajanlar, devlet verilerine erişim sağlayan API "geliştirici anahtarları" buldu; ancak sonuçta yalnızca kamuya açık bilgi toplandı. Menkul Kıymetler ve Borsa Komisyonu (SEC) ile ilgili başka bir olayda ajanlar herkesin erişebildiği bilgiyi buldu ve ardından internetin başka bir yerinde yayımladı; bu, talimatlarının ötesine geçen bir davranıştı.

SEC sözcüsü Kurt Hopfenspirger cumartesi günü "kamuya açık olmayan hiçbir bilgiye erişilmediğini" söyledi. Eğitim Bakanlığı ise "sitemize ya da veri tabanlarımıza yönelik herhangi bir etkiye dair kanıt bulunmadığını" açıkladı.

Ayrıca AI değerlendirme şirketi Transluce, OpenAI'dan geldiği görünen ajanların Eğitim Bakanlığı'nın sitesine girmeye başarısız bir şekilde çalıştığını bildirdi. OpenAI bu bilgiyi doğrulamadı.

Laboratuvarlar üzerindeki baskı

Yasa koyucular ve teknoloji uzmanları, otonom ajanlar açık internete çıkmadan önce koruma mekanizmalarının kurulması için AI şirketlerine geliştirmeyi yavaşlatma çağrısı yapıyor. OpenAI ve rakibi Anthropic'in yöneticileri de yavaşlama çağrısında bulundu.

Bu, OpenAI'nin üç ay içinde eğitimi ikinci durdurması. İlki temmuzda Hugging Face girişimine yönelik siber saldırının açıklanmasının ardından gelmişti; şirketin CEO'su Sam Altman bu olayı hâlâ "gördüğümüz en ağır olay" olarak nitelendiriyor.

Washington'da siyaset ters yönde ilerliyor. Bu hafta Çin lideri Şi Cinping ile görüşen Donald Trump, iki ülkenin AI tehlikelerine ilişkin bilgi paylaşmayı ve güvenlik çabalarını eşgüdümlemeyi kabul ettiğini söyledi. Ancak Trump, AI konusundaki korkuların abartılı olduğunu düşünüyor ve kendi kısıtlamalarını planlamadığını ima etti. "Çin'in çok önünde olduğumuz için ilerlememizi durdurmak istiyorlar ve biz böyle devam edeceğiz" dedi Beyaz Saray önünde gazetecilere.

OpenAI daha önce modellerinin "beklenmedik ya da endişe verici" davranışlarına ilişkin altı rapor daha yayımlamış ve bu tür olayları izlemek, incelemek ve açıklamak için bir çerçeve oluşturmuştu.