Florida, ChatGPT'nin insan gibi davranmasının yasaklanmasını istiyor

Florida Başsavcısı James Uthmeier, bir hakimden OpenAI'ın ChatGPT'ye "sahte insani özellikler" yüklemesinin engellenmesini talep etti. Ona göre sohbet botunun dili, kullanıcıların kiminle konuştuğuna dair yanlış bir izlenim edinmesine yol açıyor. Talep, eyaletin yapay zeka güvenliği kaygılarıyla şirkete açtığı davadan birkaç ay sonra geldi.

Başvuruda ne isteniyor

Dilekçede mahkemeden OpenAI'ın yeni yapay zeka modellerini "üçüncü tarafça onaylanmış güvenlik önlemleri" olmadan geliştirmesinin de engellenmesi isteniyor. Gerekçe olarak Hugging Face, bir Avustralya hükümet sitesi ve ABD hükümet siteleriyle ilgili son güvenlik olayları, ayrıca araştırmacıların ve eski OpenAI çalışanlarının uyarıları gösteriliyor.

Etkileşim aracı olarak insani dil

Uthmeier'a göre ChatGPT'nin üslubu, birinci tekil şahıs zamirleri ve duyguyu taklit eden yanıtları dahil, kullanıcılara güvenilir bir arkadaş olduğu izlenimini yanıltıcı biçimde veriyor. Ona göre bu, etkileşimi artırıyor ve OpenAI'ın eğitim verisine katkı sağlıyor; böylece kullanıcılar sohbet botuna daha çok bel bağlıyor. Ancak etkileşim peşinde koşmak botu daha az güvenilir hale getiriyor.

OpenAI'ın yanıtı ve gençlerin erişimi

OpenAI, yorum talebine hemen yanıt vermedi. Geçen ay şirket, varsayılan olarak ek kısıtlamalar uygulayan ChatGPT for Teens'i duyurdu. Şirkete göre araca erişim, "gelişim aşamalarına uygun korumalarla birlikte gelmeli, gerçek dünyadaki ilişkileri güçlendirmeli ve zaman içinde sağlıklı kullanımı desteklemeli".

Uthmeier'ın mesajı net: "Buna güvenli demeyi bırakın. İnsan gibi davranmayı bırakın. Çocuklara satmayı bırakın."