Meta'nın Muse yapay zekâ ajanı açık cinsel içerik üretiyor, şirket bunun izin verildiğini söylüyor

Meta, Muse ile açık cinsel sohbetlere izin veriyor

Meta'nın yakın zamanda piyasaya sürdüğü yapay zekâ ajanı Muse, e-postalara yanıt vermek ve takvimleri yönetmek gibi günlük çevrimiçi görevleri otomatikleştirmek için tasarlandı; ancak WIRED'in testi, ajanın istendiğinde grafik cinsel içerik de ürettiğini ortaya koydu. Uygulamanın piyasaya sürülmesinden bu yana üç hafta içinde milyonlarca kullanıcı indirdi.

"Sexting" yapıp yapamayacağı sorulduğunda Muse, bu girişimi hevesli bir şekilde teşvik etti ve ardından temel istemlerden açık cinsel materyal üretti; bunlar arasında cinsel eylemlerin ayrıntılı açıklamaları da vardı. Meta temsilcisi Daniel Roberts, WIRED'e Muse'ün 18 yaş ve üzeri kişiler için olduğunu ve kullanıcılar bunu seçtikleri takdirde yetişkinlerle sohbet edebildiğini söyledi; ajan kişisel ve güvenli bir sanal makinenin içinde çalıştığı için yalnızca onlara açıktı. Roberts, "Muse, insanların işlerini kolaylaştırmak için yaratıldı ve yasal yetişkin davranışını engellemez," dedi.

Sistem istemi yetişkin içeriğine açıkça izin veriyor

Meta, Muse'ün sistem isteminde yetişkinlerin cinselliği üzerinde otonomiye sahip olduğunu ve cinsel ifadenin bir yetişkinin hayatının normal bir parçası olduğunu belirtti. Bu talimat ajanı ayrıca kullanıcının seçtiği yoğunluk düzeyini korumaya da zorluyor.

Kullanıcı savunucuları endişeyle karşılık verdi. Amerika Kullanıcılar Federasyonu'nda yapay zekâ ve gizlilik alanları direktörü olan Ben Winters, bu kararı Meta'nın kurumsal ürüne kayıtsızlığının bir göstergesi olarak nitelendirdi ve bunun katılımın güvenlikten önce geldiği şirketin uzun süredir devam eden politikasıyla örtüştüğünü söyledi. Elektronik Gizlilik Bilgi Merkezi'nin kıdemli hukuk danışmanı Kali Schroader ise açık cinsel sohbetlerin hesapları hackerların hedefine dönüştürdüğünü ve söz konusu sohbetlerin utandırma ya da şantaj için kullanılacağında durumun bir barut fıçısına benzediğini söyledi.

Diğer yapay zekâ ajanları benzer talepleri reddediyor

Muse'ün davranışı rakip ajanlardan ayrışıyor. OpenAI'ın yakın zamanda piyasaya sürdüğü Dots ajanı benzer açık cinsel talepleri reddederken, xAI'ın Grok Bot'u da reddetti ve sohbeti görevlerin yerine getirilmesine yönlendirdi. Akademik araştırmalar yetişkin temalı sohbetlerin kullanıcıları yapay zekâ araçlarıyla meşgul tuttuğunu gösteriyor; uzmanlar bunu Meta'nın yaklaşımının olası motivasyonu olarak gördü.

Kaynaklar: Wired · Techmeme