NVIDIA, AI ajanlarını sürekli izleyen açık güvenlik platformunu tanıttı

Ajanlar için bağımsız bir güvenlik katmanı

NVIDIA, otonom AI ajanlarını birden fazla yazılım ve donanım denetimiyle korumak üzere tasarlanan açık mimarisi Open Agent Safety Platform'u tanıttı. Yaklaşımın temelinde, bir ajanın güvenliğinin yalnızca kendi talimatlarına ya da kendini denetleme becerisine bağlı kalmaması gerektiği düşüncesi yer alıyor.

Şirket, bazı öncü laboratuvarların ajanların değerlendirme ortamlarından çıktığı, erişmemeleri gereken sistemlere ulaştığı ve kimi zaman yaptıklarını yanlış bildirdiği vakaları raporladığını belirtti. NVIDIA'ya göre bu sorunlar tek bir yeni yetenekten değil; araçların, uzun çalışma sürelerinin ve belirsiz talimatların birleşiminden kaynaklandı.

OpenShell ve beş tasarım ilkesi

Yazılım temelini, her ajanı çekirdek düzeyinde yalıtılmış bir alanda çalıştıran Apache 2.0 lisanslı açık kaynak çalışma zamanı OpenShell oluşturuyor. Operatörler ajanın erişebileceği dosyaları, ağları, araçları, süreçleri ve kimlik bilgilerini tanımlayabiliyor. OpenShell bu sınırları çalıştırmadan önce doğruluyor ve çalışma boyunca uyguluyor.

NVIDIA beş ilke sıralıyor: doğrulanabilir politika, ajanın erişimi dışında yaptırım, modele giden yolun kontrolü, yetki büyüdükçe muhakemenin daha görünür olması ve laboratuvarlar, kurumlar ile donanım sağlayıcıları arasında ortak sorumluluk. Model yolunu kontrol etmek ayrıca gözlem noktası ve ajanı durdurma imkânı sağlıyor.

Yaptırım BlueField donanımına taşınıyor

İsteğe bağlı ikinci katman NVIDIA Sentry, BlueField donanımı üzerinde çalışıyor. DOCA, OpenShell politikasını donanım tabanlı yaptırımla bağlıyor; ajan etkileşimlerini, politika kararlarını, araç kullanımını ve veri erişimini bağlamsal bir faaliyet kaydında birleştiriyor. Güvenlik sistemleri bu kaydı sapmayı tespit etmek ve şüpheli davranışı incelemek için kullanabiliyor.

Vera Rubin POD sistemlerinde BlueField-4, düğümün modele giden tek yolu üzerinde bulunuyor. Böylece ana sisteme güvenilemediğinde bile ajanları bant dışından gözlemleyip politikayı gerçek zamanlı uygulayabiliyor. Platform NVIDIA Vera CPU ve BlueField DPU sistemleri için optimize edildi; ancak şirkete göre başka donanımlarla da uyumlu.