Anthropic, yılı aşkın süre sonra ilk güncellemeyle Claude'a aşağılayıcı davranışı yasakladı

Anthropic, yılı aşkın müre sonra ilk kez kullanım politikasını güncelledi ve seçim müdahalesi, silah üretimi, gözetleme ile sağlık ve finansal kullanımlar üzerinde Claude AI modelleri için kısıtlamalar ekledi. Temel değişiklik, Claude'a yönelik „tekrarlayan ve temelsiz aşağılayıcı veya saldırgan davranışı" yasaklıyor.

Modelin refahı

Güncelleme, geçen Ağustos ayında atılan adıma dayanıyor; o zaman Anthropic, Claude'ın „sürekli zararlı veya aşağılayıcı" kullanıcılarla konuşmayı sonlandırabileceğini söylemişti. Şirkete göre, konuşmayı sonlandırmak „temel bir uygulama mekanizması" olarak kalıyor; kullanıcıların engellenip engellenmeyeceği bilinmiyor.

Yeni kural „yalnızca kullanıcıların modellerimize herhangi bir belirgin amaç olmadan tekrarlayan şekilde saldırgan davranış sergilediği aşırı durumlarda kullanılır." Daha önceki memnuniyetsizlik, anlaşmazlık, kara yaratıcılık temaları, test ve araştırmayı etkilemez.

Değişiklik, model refahı endüstrisi tartışmalarının ardından geliyor. Anthropic'ın CEO'su Dario Amedei, Şubat ayında şöyle demişti: „Modellerin bilinçli olup olmadığını bilmiyorum." Microsoft AI'ın Mustafa Suleyman'ın Codex projesi, başlangıçta modellerin haklarını reddetti, sonraumu yumuşattı.

Propaganda ve seçimler

Anthropic daha önce „gelişmiş" kısıtlamaları, AI ile üretilen propagandanın artışını hedef alan yeni yasaklarda sahte ticari veya siyasi kampanyaları birleştirdi. Politika, „kimin arkasında olduğunu gizlemeye veya hesaplar ve yazılarla içeriği güçlendirmeye çalışmayı" yasaklıyor.

Seçimler kısmı, seçici kandırmacasını ve seçim sürecinin el konmasını yasaklıyor, bunlar arasında „adaylar veya oylama kuralları hakkında dezenformasyon, adaylar veya seçim görevlilerine karşı çıkma ya da seçici aktivitenin bastırılması" yer alıyor.

Silahlar ve gözetleme

Kullanım politikası her zaman Claude ile silah üretimini yasaklamıştı, ancak Anthropic, sıklıkla Claude'nin silah talimatları ve yönetim yazılımı oluşturmaya yönelik kullanımlarını gördüğünü söyledi. Genişletilmiş yasak, „silah üreten yazılım ve bileşenlerin yanı sıra dronlar ve diğer otonom ulaşım araçlarının silahlandırılmasını" da kapsıyor.

Son risk gözetim raporu, Claude ile yönetilen gözetimin siyasi muhaliflere yönelik artışını gösterdiğinde şirket yasakları sıkılaştırdı. Anthropic'e göre, insanların izinsiz izlenmesi, gerçek zamanlı veya önceden toplanan verilerle olsun yasak. Claude ile kararlar almak veya kimlerin kovulacağı, tutuklanacağı veya yargılanacağı konusunda tavsiyelerde bulunmak, veya gözetim araçları oluşturmak ve geliştirmek izin verilmez.

Anthropic, bu kuralların „belirli devlet müşterileri için sözleşmelerde" değişebileceğini belirtti; eğer sözleşme şartlı kısıtlamalar ve koruma önlemleri potansiyeli hasarı azaltmak için yeterli görülürse. Şirket daha önce ABD Silahlı Kuvvetleri ile de işbirliği yapmıştı.

Donanım ve robotik

Yeni kural, Anthropic modelleri otonom donanımlara bağlandığında ve travma oluşturabileceğinde, nitelikli bir operatör izleme yapabilmeli ve gerek durumda durma yetkisine sahip olmalı. Bu operatörün insan olup olmadığı belirsiz. Bu, AI laboratuvarlarının robotik ve donamına yönelik ilgisini yansıtıyor, böylece AI sistemlerine fiziksel ayrım sunuyor ve Anthropic'ın gelecekteki ortaklıklarına işaret edebilir.

Kaynaklar: The Verge AI