OpenAI, Gençlerin Ateşli Silah Sorularına Daha Sıkı Sınırlar Getiriyor
OpenAI, bir soru masum görünse bile gençlerin ChatGPT'den alabileceği silah ve güvenlik bilgilerini kısıtlayacağını; destek ve durumu yatıştırma kullanımlarının ise açık kalacağını söyledi.
OpenAI, gençlerin ChatGPT'den alabileceği silahla ilgili bilgiler için daha sıkı sınırlar eklediğini söyledi; buna masum görünen sorular da dahil. Şirket, değişikliklerin kötüye kullanım risklerini daha da azaltmayı amaçladığını, destek, durumu yatıştırma ve güvendiği bir yetişkine bağlanma yardımına erişimi koruduğunu söyledi.
Gençler için ne değişiyor
OpenAI, ChatGPT'nin kullanıcıların şiddet eylemleri gerçekleştirmesine yardım etmesini veya gençlerin silah edinmesini engelleyen politikalara zaten sahip olduğunu söyledi. Yeni sınırlar altında şirket, şiddet niyeti belirtisi olmasa bile şiddeti kolaylaştırabilecek silahlar ve güvenlik sistemleriyle ilgili pratik bilgileri kısıtlayacak. Gençler ChatGPT'yi şiddet olaylarını önleme veya yatıştırma, destek arama ve güvendiği bir yetişkine bağlanma için kullanmaya devam edebilecek.
Daha geniş politika sınırları
Şirket, tüm kullanıcılar için politika sınırlarını da güçlendirdiğini söyledi. Bu sınırlar özellikle geçmiş kitlesel saldırıların yeniden kurgulanmasıyla ilgili isteklere uygulanıyor; buna kullanılan silahlar ve ekipmanlar ile bunların nasıl edinildiğiyle ilgili ayrıntılar ve bir saldırganın ününü artırabilecek zarar ölçeğiyle ilgili ayrıntılı karşılaştırmalar dahil.
Ebeveyn denetimleri ve güvenlik bağlamı
Sınırlamalar, OpenAI'nin geçen yıl yürürlüğe koyduğu ebeveyn denetimleriyle birlikte çalışacak. Bu denetimler, bağlantılı genç hesapları ChatGPT'nin şiddet tehditleri veya şiddet eylemleriyle ilgili politikalarını ihlal ederse ebeveynlere bildirim gönderiyor. OpenAI, ek güvenlik önlemlerinin geçen yıl şirkete karşı açılan haksız ölüm davasının ve CEO Sam Altman'ın bu yılın başlarında Tumbler Ridge'deki silahlı saldırıyla ilgili endişe verici sohbet kayıtlarını polise bildirmemesi nedeniyle kamuya yaptığı özrün ardından geldiğini söyledi.
İleriye bakış
OpenAI, ilk Topluluk Güvenliği Raporu'nu 2027'nin başlarında yayımlayacağını ve bundan sonra her altı ayda bir güncelleme yapacağını söyledi.
Kaynaklar: Engadget
SiTech — AI destekli web geliştirme
Hızlı ve modern web siteleri kuruyor, AI'yı gerçek iş akışlarına taşıyoruz. Projeniz veya sorunuz mu var? Yardımcı olmaktan mutluluk duyarız.