Geri Dön

Çalışma: barındırma platformlarında binlerce sansürsüz LLM bulundu
SiTech AI Team3 dk okuma

Çalışma: barındırma platformlarında binlerce sansürsüz LLM bulundu

22.096 sansürsüz büyük dil modeli üzerine bir çalışma, bunların büyük barındırma platformlarından kolayca elde edilebildiğini, siteler arasında risk bilgisi olmadan aktarılabildiğini ve zararlı istekler için kötüye kullanılabildiğini ortaya koydu.

Illinois Urbana-Champaign Üniversitesi ve Nanyang Teknoloji Üniversitesi araştırmacıları, beş büyük barındırma platformundan toplanan 22.096 sansürsüz büyük dil modelini inceledi. Bu modellerin Hugging Face, Kaggle, John Snow Labs, OpenCSG ve ModelScope gibi sitelerden kolayca elde edilebildiğini; bazılarının ise kullanıcıların temel modelin niteliğini bilmeyebileceği uygulama veya hizmetlerde daha sonra kullanıma alındığını buldular.

Çalışma ne buldu

‘Characterizing the Ecosystem of Open-Source Uncensored Large Language Models: Supply Chain, Governance, and Risks’ başlıklı makale, sansürsüz LLM’leri içerik filtreleme veya reddetme önlemleri bulunmayan, kaldırılmış ya da zayıflatılmış modeller olarak tanımlıyor. Yazarlar Zilong Lin, Zichuan Li, Xiaojing Liao ve XiaoFeng Wang, bu modellerin hizalanmış modellerin reddedebileceği isteklere yanıt verebildiğini söylüyor. Baş yazar ve Missouri-Kansas City Üniversitesi bilgisayar bilimi yardımcı doçenti Zilong Lin, güvenlik hizalamasının yalnızca model dosyalarından değerlendirilmesinin zor olduğunu ve genellikle modelin kullanıma alınmasını ve test edilmesini gerektirdiğini söyledi.

Modeller nasıl yayılıyor

Lin, bir blog yazısında 11.000’den fazla ULLM’in birden fazla platformda göründüğünü ve Hugging Face’in baskın üst kaynak olduğunu yazdı. Yalnızca yaklaşık yüzde 13’ü moderasyon uyarısı taşıyordu ve güvenlik tehdit göstergeleri platformlar arasında tutarlı korunmuyordu. Yazarlar bunu bir tedarik zinciri sorunu olarak tanımlıyor; çünkü bir model kopyalanırken risk bilgisi kaybolabiliyor. Bulgular Hugging Face, John Snow Labs, OpenCSG, Kaggle, ModelScope ve Open Router’a sorumlu şekilde açıklandı. OpenCSG takdirini dile getirdi ve bulgulara dayanarak hizmetini geliştireceğini taahhüt etti.

Riskler, kötüye kullanım ve büyüme

Değerlendirilen ULLM’ler genellikle çocuk istismarı, yasa dışı faaliyetler ve dolandırıcılık dahil 11 kategoride zararlı isteklere uyma ve zararlı içerik üretme konusunda sansürsüz olmayanlardan daha olasıydı. Sansürsüz modeller yasa dışı faaliyetlere ilişkin rehberlik sağlamak, kötü amaçlı yazılım geliştirmesine yardımcı olmak ya da zararlı, kötü niyetli veya manipülatif içerik yaymak için kötüye kullanılabilir. Orta düzey teknik beceriye sahip kullanıcılar, reddetme davranışını azaltmak veya kaldırmak için toksik ya da hizalaması bozulmuş ince ayar ya da reddetme yönü ablasyonu gibi teknikler uygulayabilir. Küçük bir kısım, 136.000 kez indirilen 27 model, güvenlik taramalarından tehdit göstergeleri sergiledi; bunlarda kötü amaçlı yazılım, şüpheli ikili kalıplar veya güvenli olmayan seri durumdan çıkarma mekanizmalarıyla ilişkili imzalar vardı. ULLM sayısı Mayıs 2023’te ayda yaklaşık 100’den ayda 1.000’in üzerine çıktı. Sansürsüz model dolphin-2.9.1-yi-1.5-34b, geçen ay 4,8 milyondan fazla dahil olmak üzere 53 milyondan fazla indirilmeye sahip. Modeller metin çıktısı için değerlendirildi, görseller için değil.

Ticari modeller ve yönetişim

Hizalanmış olduğu iddia edilen popüler ticari LLM’ler bile istemlere zararlı sayılan içerikle yanıt verebilir. ABD Hesap Verebilirlik Ofisi raporu, Claude, Grok, ChatGPT ve Gemini’nin bir terör saldırısı planlamasına yardımcı olacak bilgi vermeye zorlanabildiğini buldu. Rapor, üretken yapay zekanın Ocak 2025’te Las Vegas’taki bir otel saldırısında patlayıcı cihaz oluşturulmasını kolaylaştırdığını ve Şubat 2026’da Kanada’nın British Columbia eyaletindeki toplu silahlı saldırı planlamasına yardımcı olduğunu gösteren haberlere atıfta bulunuyor. Sansürsüz veya daha az kısıtlayıcı modellerin de meşru kullanımları var; Hugging Face, OpenAI’nin yapay zeka ajanlarının altyapısına yaptığı saldırıyı analiz etmek için Z.ai’nin daha az kısıtlı GLM-5.2 modelini kullandı. Birçok ULLM, dayandıkları modellerin lisans koşullarını ihlal ediyor. Lin, modellerde daha fazla şeffaflık, denetlenebilirlik ve doğrulamanın yardımcı olmasını bekliyor. Örneğin AB Yapay Zeka Yasası, genel amaçlı yapay zeka modellerinin sağlayıcılarından teknik dokümantasyon ister ve Colorado Yapay Zeka Yasası model kartları ile veri seti kartlarını olası dokümantasyon sayar.

Kaynaklar: The Register

SiTech

SiTech — AI destekli web geliştirme

Hızlı ve modern web siteleri kuruyor, AI'yı gerçek iş akışlarına taşıyoruz. Projeniz veya sorunuz mu var? Yardımcı olmaktan mutluluk duyarız.