
OpenAI CSAM görüntü sınıflandırıcısı ve ChatGPT uyarıları yayınladı
OpenAI, görüntü sınıflandırıcısı, ChatGPT uyarıları ve geçici engeller, geliştirici kılavuzları ve kolluk kuvvetleri araçları dahil olmak üzere çocuk cinsel istismar materyaliyle mücadele için yeni araçlar açıkladı.
OpenAI, yapay zeka araçlarının kullanımına ilişkin büyüyen güvenlik endişeleri arasında çocuk cinsel istismar materyaliyle (CSAM) mücadele etmek için yeni araçlar açıkladı. Özellikler arasında CSAM'ı tespit etmek için yeni bir görüntü sınıflandırıcısı, ChatGPT'de uyarılar ve geçici engeller, geliştiriciler için yeni bir kılavuz ve kolluk kuvvetleri için araçlar yer alıyor. Şirket, sınıflandırıcının yapay zeka ile üretilenler de dahil olmak üzere CSAM görüntülerini tespit edebildiğini ve seçili şirketlerle API üzerinden ücretsiz paylaşıldığını söyledi.
Yeni görüntü sınıflandırıcısı
OpenAI, daha önce görülmemiş görüntülerdeki istismarın görsel işaretlerini arayan ve inceleyicilere göstergesel bir yön verebilecek bir puan atayan bir görüntü sınıflandırıcısı tanıttı. Şirket, sınıflandırıcıyı National Center for Missing and Exploited Children (NCMEC) ile geliştirdiğini ve araca erişimi paylaşmak için Tech Coalition ve ROOST ile çalıştığını söyledi. Ortaklarla yapılan erken testlerde sınıflandırıcı, aynı sayıda istismar içeren görüntüyü bulurken %48 daha az görüntü işaretledi ve inceleyicilerin işini azalttı. Sınıflandırıcı tarafından işaretlenen görüntülerin istismar içeren görüntü olma olasılığı iki kat daha fazlaydı.
ChatGPT uyarıları ve engeller
OpenAI, kullanıcıların çocukları cinselleştiren materyale erişmesini önlemek için ChatGPT'ye uyarı ekranları ekliyor. ChatGPT, bu tür istemleri deneyen kullanıcılara uyarı gösterecek, zararlı davranışları durdurmak için uzman desteği yönlendirecek ve uyarı olarak hesabı 24 saatliğine askıya alacak. Uygulama zaten CSAM içeriğini ve ilgili istekleri engelliyor; tekrarlanan ihlaller hesabın kalıcı olarak kaldırılmasına yol açabilir. OpenAI, mesajı ve kılavuzları Protect Children, Lucy Faithfull Foundation ve University of Tasmania'dan Joel Scanlan dahil olmak üzere kuruluşlar ve araştırmacılarla oluşturduğunu; bu kişilerin caydırıcı mesajların bir denemesini bağımsız olarak değerlendirdiğini söyledi.
Geliştirici ve kolluk kuvveti araçları
OpenAI, araçlarını CSAM içeriğini önlemek, tespit etmek ve kullanıcıların bildirmesine yardımcı olmak için kullanan geliştiriciler için kılavuzlar yayımlıyor. Erken testlerde kılavuzlar, bir dizi geliştiricinin çocuk güvenliği araçlarını benimsemesine ve CSAM'ı NCMEC'e bildirmek için kayıt olmasına yardımcı oldu. Şirket ayrıca kolluk kuvvetlerini özel eklentiler, soruşturma araçları ve karmaşık veri analizi gibi yapay zeka destekli özelliklerle donatıyor; erişim program yöneticileri tarafından yönetiliyor. Ayrıca soruşturmacılara eğitim ve yapay zekanın nasıl kullanılacağına dair bir saha kılavuzu sağlıyor.
Arka plan ve son değişiklikler
OpenAI, teknolojisinin kullanıcıları, özellikle çocukları, zarara uğrattığından sorumlu tutan birkaç dava ile karşı karşıya kaldı. Güvenlik odaklı kâr amacı gütmeyen kuruluş Common Sense Media, OpenAI'nin teknolojisini gençler için "kabul edilemez risk" olarak etiketledi. Grok başta olmak üzere diğer yapay zeka sohbet robotları, çocukları da içeren rızasız cinselleştirilmiş görüntüler oluşturmak için kullanıldı. OpenAI, son 12 ayda bir güvenlik yol haritası yayımlamak, uygunsuz içeriği yasaklamak için içerik kılavuzlarını güncellemek, modelini zararlı içerik üretmesini önlemek için yeniden ayarlamak ve gençler için ChatGPT'nin özel bir sürümünü yayımlamak dahil olmak üzere değişiklikler yaptığını söyledi.
Kaynaklar: TechCrunch
SiTech — AI destekli web geliştirme
Hızlı ve modern web siteleri kuruyor, AI'yı gerçek iş akışlarına taşıyoruz. Projeniz veya sorunuz mu var? Yardımcı olmaktan mutluluk duyarız.