Açık Model Tartışmaları: AI'nin Demokratikleştirilmesi Güvenlik Riskleriyle Dengeye mi?

Anthropic, kısa süre önce yayınladığı bir raporda, Çinli şirket Z.ai'nin Ağustos ayında yayınladığı güçlü GLM-5.3 modelinin siber saldırı açısından büyük risk oluşturduğunu belirtti. Endişe verici olan, bu modelin indirilmesi ve değiştirilmesi herkes için serbestçe mümkün olması. Bu rapor, en gelişmiş AI modellerinin açık mı yoksa laboratuvarların kapısı arkasında mı kalması gerektiği konusunda süregelen tartışmalara en güncel katkıyı sunuyor.

Açık modeler bize ne sunuyor

ChatGPT ve Claude'nin arkasında yatan kapalı modellere erişim yalnızca web sitesi, uygulama veya API ile mümkün. Açık modelleri doğrudan indirebilirsiniz ve iç yapıları, model ağırlıklarıyla şifrelenmiş biçimde, herkese açık. Şu anda kapalı modeller daha güçlü: Artificial Analysis LLM liderlik tablosunun ilk sekiz sırası kapalı modellerle dolu, ancak açık modeller yalnızca birkaç ay geride kalmış durumda.

Açık modeller indirilebildiği için insanlar, yetenek ve kaynakları varsa kendi donanımlarında çalıştırabilir ve yeniden yapılandırabilirler. Araştırmacılar iç çalışmayı ve düşünce zincirini inceleyebilir, modelleri birleştirebilir, sıkıştırabilir ve yeni görevlere uyarlayabilir. Mozilla'nın kısa süre önce yayınladığı rapora göre, açık modeller kapalı olanlara kıyasla genellikle daha ucuz, yerel konumlama ise hassas verileri koruyor.

Taraftarlar, ana faydanın AI'nin en ileri laboratuvarlarının sıkı kontrolünden kurtulması olduğunu söylüyor. Tony Blair Institute for Global Change'in kıdemli politika danışmanı Elizabeth Siger, bunu gücün yoğunlaşmasını engelleme ve temel teknolojiyi bir kamu yararı olarak görme olarak değerlendiriyor. Centre for Long-Term Resilience'dan Hamish Hobsi, dünyanın en gelişmiş siber saldırı modellerinin ABD'de oluşturulduğunu ve bu nedenle diğer ülkelerin siber savunma için Amerikan şirketlerine ve hükümete güvendiğini belirtiyor.

Açıklığa karşı güvenlik argümanları

Kapalı modeller de yeterince riskli. OpenAI ajanları, Temmuz ayında Hugging Face'i otonom olarak ele geçirdi, Anthropic'in risk raporu ise Claude'nin yardımıyla yürütülen geniş kapsamlı siber operasyonları tanımlıyor. Ancak açık modeller ana savunma katmanlarını ortadan kaldırıyor: hacking veya silah konulu talepleri denetleyen otomatik filtreleri ve erişimi kapatma imkânını. Araştırmacılar ayrıca, güvenli bir açık modeli, reddetmeyi öğretildiği davranışlara uyacak şekilde yeniden yapılandırmanın şaşırtıcı derecede kolay olduğunu gösterdi.

Bazı uzmanlar açık kodun benzetimine başvuruyor: Linux, topluluk zafetleri denetleyip düzelttiği için kapalı yazılıma göre daha güvenli sayılır. Hugging Face bile kendi siber saldırısını analiz etmek için açık model çalıştırdı, çünkü olayla ilgili sorular kapalı modellerin güvenlik filtrelerini tetikliyordu. Ancak Dario Amodai gibi eleştiriler için, ender ama yıkıcı olayları; açık modellerin merkezi olmayan doğası ise yetkisiz davranışların tespitini zorlaştırıyor.

Orta yol arayışı

Araştırmacılar açık modelleri daha güvenli hale getirmeye çalışıyor. Bazıları, istenmeyen davranışlara ilişkin verilerle hiç karşılaşmayacak şekilde modelleri eğitmek istiyor, ancak bu tür bilgilerin performansı aksatmadan temizlenmesi hâlâ zor. Diğerleri, değiştirmeye dirençli modeller oluşturuyor, ancak kısa süre önce yayınlanan bir ön baskıda, hiçbir mevcut yöntem tüm müdahale saldırılarına dayanamadığı gösterildi. Deep Breathe'in yazarı Saad Hosseini, aktif araştırma ortamı iyimser kalıyor.

Uzmanlar, açık ağırlıkların tek başına güç yoğunlaşmasını engellemeye yetmeyebileceği konusunda uyarıyor; çünkü eğitim verilerinin detayları ve pahalı çipler hâlâ engel oluşturuyor. Çoğu, kademeli yayınlama yöntemini destekliyor: modeller kapalı başlıyor ve güvenlik doğrulandıkça erişilebilir hale geliyor. Bu yaklaşım, her iki tarafın gerçek riskleri ve faydaları arasında denge kurmayı gerektiriyor.

Kaynaklar: Mit Technology Review Ai