OpenAI, AB'de ChatGPT metinlerini varsayılan olarak filigranlayacak

OpenAI, AB'de ChatGPT ile üretilen metinleri otomatik olarak filigranlamaya başlayacağını açıkladı. Özellik diğer bölgelerde de sunulacak, ancak AB dışında varsayılan olarak kapalı kalacak.

AB AI Act gerekliliklerinin karşılanması

Bu adımda, AB'de yürürlüğe giren AB AI Act yasası belirleyici rol oynıyor. Yasa, yapay zeka modelleri tarafından oluşturulan içeriğin başka bir araç tarafından tespit edilebilmesi için işaretlenmesini gerektiriyor. OpenAI'nin açıklamasına göre, yeni filigranlama özelliği AB kullanıcılarına önümüzdeki haftalar içinde en azından ChatGPT ve Codex uygulamalarında sunulacak. API'de özellik kapalı kalacak, ancak isteğe bağlı olarak erişilebilir olacak.

textGrain nasıl çalışıyor

OpenAI'nin filigranlama yöntemi şirkete ait. Şirket bunu textGrain olarak adlandırıyor ve çalışma prensiplerini açıklayan teknik bir yayınlıyor. Genel olarak, diğer büyük dil modelleri için geliştirilmiş filigranlama araçlarına benzer şekilde çalışıyor: kelime seçiminde insan okuyucusu için fark edilemeyen ve sonucun kalitesini önemli ölçüde değiştirmeyen şablonlar yerleştiriyor, ancak anahtarı olan bir kişi özel bir dedektörle bunları bulabiliyor. OpenAI'nin açıklamasına göre, dedektöre erişim sınırlı sayıda araştırmacıya ve organizasyona verilecek, diğerleri için zaman içinde doğrulama talebi süreci eklenecek.

Tespit sınırlamaları

OpenAI'nin textGrain testleri, en iyi durumda başarılı tespit oranının %92 olduğunu gösteriyor; bu oldukça iyi ancak tamamen güvenilir değil. Şirketin testleri ayrıca, sonuç metninin yalnızca %10'unun değiştirilmesinin başarılı tespit oranını neredeyse %30 düşürdüğünü, metnin %20'sinin değiştirilmesinin ise başarı oranını neredeyse %75 düşürebileceğini gösteriyor. Genel olarak, başarı oranı uzun metinlere kıyasla kısa veya çevrilmiş metinlerde daha düşük.

Sektör bağlamı

Yapay zeka tarafından üretilen içeriğin tespit edilmesinin tamamen etkili ve güvenilir bir yolu henüz mevcut değil. SynthID ve C2PA projesi gibi birkaç standart zaten var, ancak bunların atlatılması temel bilgiye sahip herhangi bir kişi için nispeten kolay ve muhtemelen aynısı OpenAI'nin filigranı için de geçerli. Ağustos ayında OpenAI'nin rakibi Anthropic da kendi modelleriyle üretilen metinler için filigranlama başlattı, ancak Anthropic bunu global olarak etkinleştirirken OpenAI şu anda bunu yalnızca düzenleyicilerin talep ettiği yerlerde varsayılan olarak yapıyor.

Kaynaklar: Arstechnica