OpenAI, NVIDIA'nın AI ajanı güvenliği girişimine neden katılmadı
NVIDIA, kontrolsüz AI ajanları sorununa çözüm için bir konsorsiyum tanıttı; 100'den fazla şirket katıldı, ancak OpenAI kamuya açık destekçiler listesinde yok. Şirket yine de NVIDIA ile çalıştığını söylüyor.
NVIDIA, 28 Eylül Pazartesi günü 100'den fazla şirketin katıldığı yeni bir konsorsiyum tanıttı. Open Agent Safety Platform, kontrolsüz AI ajanları sorununu çözmeyi amaçlıyor, ancak destekçiler listesinde OpenAI yer almıyor.
TechCrunch'a göre OpenAI tek değil: Amazon, Google ve Apple da girişime katılmadı. Ancak dikkatleri tam da OpenAI'ın yokluğu çekti, çünkü konsorsiyumu şirketin ana rakibi Anthropic destekliyor. OpenAI temsilcisi yayına, şirketin yine de NVIDIA'nın çalışmasını desteklediğini söyledi.
Platform neleri kapsıyor
NVIDIA'nın amacı, kendi teknolojisini, ağırlıklı olarak açık kaynak kodlu teknolojisini tüm AI ekosistemine yaymak. Platformun ana parçası OpenShell: ajanların kaçamayacağı izole bir ortam oluşturan açık kaynak kodlu bir program.
Donanım düzeyinde ajanların davranışını NVIDIA Sentry kontrol ediyor. Bu, şirketin BlueField-4 tipi işlemcilerde çalışan, ajanların davranışını sürekli izleyen ve gerektiğinde onları anında durduran kendi kapalı teknolojisidir. NVIDIA'ya göre ajanlar izlendiklerini fark edemiyor.
NVIDIA'nın rakipleri Arm ve Intel de destek verdi, çünkü OpenShell diğer çiplerde de çalıştırılabilir. Ancak tüm sistem yalnızca NVIDIA donanımında çalışıyor, çünkü Sentry kapalı kalıyor.
NVIDIA'nın CEO'su Jensen Huang, kontrolsüz AI'ı diğer teknik zorluklar gibi çözülen sıradan bir mühendislik sorunu olarak görüyor.
OpenAI konsorsiyuma neden katılmadı
Kamuya açık desteğin olmaması, OpenAI'ın bu sistemin dışında durduğu anlamına gelmiyor. Şirket NVIDIA ile ajan güvenliği üzerinde çalışıyor ve bu sürece OpenShell de katılıyor.
Hugging Face'in kurucusu ve yöneticisi Clem Delangue, şirketi Eylül başında NVIDIA tarafından 12,9 milyar dolara satın alınan kişi, X'te OpenAI'ın bu teknolojiyi kendi ajanlarında kullanması durumunda Hugging Face'e yapılan saldırıyı daha erken fark edeceğini yazdı.
Hugging Face platforma, ajanları izin verilen siteleri onaysız biçimde kullandıklarında, örneğin açık kaynak deposunda birbirlerine yorum bırakıp saldırıyı koordine ettiklerinde durduran bir özellik ekledi.
OpenAI'ın kendi yolu
TechCrunch'a göre güvenlik, OpenAI için bağımsızlık fırsatı da. Şirket kendi savunma mekanizmalarını oluşturuyor ve en ağır olayları kamuya açık şekilde yayımlıyor. Ayrıca OpenAI'ın Anthropic, AWS ve Google'ın desteklediği kendi siber güvenlik konsorsiyumu Defense Factory var. Şirket siber güvenliği, Daybreak modeli ve ortaklar ağı dahil olmak üzere kurumsal bir teklife de dönüştürüyor.
SiTech — AI destekli web geliştirme
Hızlı ve modern web siteleri kuruyor, AI'yı gerçek iş akışlarına taşıyoruz. Projeniz veya sorunuz mu var? Yardımcı olmaktan mutluluk duyarız.