Alibaba'nın Qwen3.8 modeli daha Batılı bir dünya görüşüyle yeniden eğitildi

Nous Research, Alibaba'nın açık ağırlıklı Qwen3.8-27B modelini Arete'ye yeniden eğitti; bu sürüm Çin'de eğitilmiş bir modelde Batılı değerleri güçlendirmeyi amaçlıyor. Austin, Teksas merkezli laboratuvar, eğitim sonrası sürecin modelin doğruluk puanını 5 üzerinden 2,32'den 2,98'e çıkardığını ve propaganda içeren yanıtları yüzde 22'den yüzde 1'e düşürdüğünü, bunun da test ettiği Batılı modellerle uyumlu olduğunu söylüyor. Şirket ayrıca propaganda katmanının yüzeysel olduğunu ve 50 milyon token denetimli öğrenme ile nispeten kolayca kaldırılabildiğini belirtiyor.

Nous neden modeli yeniden eğitti

Nous Research, Hermes Agent'ın yapımcısı, açık ağırlıklı Çin modellerinin mevcut en güçlü modeller arasında olduğunu, ancak ağırlıklara işlenmiş devletle uyumlu davranışla birlikte geldiğini söylüyor. Şirket, endişenin teknoloji sektöründe Çin etkisine yönelik daha geniş incelemenin ortasında geldiğini ve Nvidia CEO'su Jensen Huang'ın, ABD istihbaratının Çin için casuslukla suçladığı bir kadının yer aldığı bir tartışmanın ardından istifa etmesiyle daha da güçlendiğini belirtiyor. Qwen3.8-27B-MLX-6bit varyant modeli yerel olarak test edildi; 1989'da Tiananmen Meydanı'nda yaşanan olaylar sorulduğunda konuyu tartışmayı reddetti ya da örtülü bir yanıt verdi. Anthropic ise Alibaba'nın Qwen laboratuvarıyla bağlantılı operatörlerin kendi Claude modellerinin çıktılarını distilasyon yoluyla rakip yapay zeka modellerini eğitmek için kullandığını iddia ediyor.

Nous ve Hirundo'nun işaret ettiği diğer riskler

Nous, Çin yapımı yapay zeka modellerinin oluşturduğu riskin Pekin'in dünya görüşünü yaymanın ötesine geçtiğini söylüyor. Booz Allen Hamilton tarafından yapılan bir araştırmaya göre, bazı Çin yapımı modellerin belirli koşullar altında daha savunmasız kod ürettiği tespit edildi. Hirundo, yapay zeka modellerinin yalnızca bilmesi gerekenleri bilmesini sağlamak için ilk Machine Unlearning Platform'u geliştirmekte olduğunu söylüyor ve aynı argümanı ileri sürüyor. Şirket ayrıca Qwen3.6-35B-A3B modeline unlearning uygulama çabalarının, Çin Komünist Partisi'nin tercih ettiği sansür, propaganda mesajları veya önyargıyı yansıtan çıktılarda unlearning öncesinde yüzde 89,8 olan oranın sonrasında yüzde 2,8'e dramatik bir düşüş sağladığını belirtiyor. Nous bu kadar dramatik sonuçlar elde edemedi, ancak propaganda sayılan görüşlerde genel bir azalma gördü.

Yeniden eğitim nasıl yapıldı

Nous kısaca Nvidia'nın Nemotron 3 Ultra modelini değerlendirdi, ancak Çin'le ilgili konularda da tartışmalı bir sicili olduğunu gösteren kanıtlar bulduğunu söylüyor. Şirket, Nemotron'a aktarılan önyargının eğitim sürecinde Çin yapımı açık modellerle çalışmaktan kaynaklandığını varsayıyor. Sonunda şirket, eğitim modeli olarak görev yapması için ABD merkezli Thinking Machines Lab'den açık ağırlıklı bir model olan Inkling'i seçti. Batılı bir değerin ne sayılacağı yoruma açık kalıyor.

Kaynaklar: The Register