OpenAI, ChatGPT'te seçim görselleri için karikatür tarzını öne çıkarıyor

OpenAI, 3 Kasım'daki ABD ara seçimleri yaklaşırken ChatGPT'deki siyasi görseller için yeni bir koruma uyguluyor. Kullanıcılar seçim müdahalesini tasvir eden veya oy kullanmayı caydırabilecek görseller istediğinde, sohbet robotu artık fotogerçekçi çıktı yerine çizilmiş veya karikatür tarzında görseller üretiyor. Şirket, amacın görsellerin kanıt değerini azaltmak ve çizimler ile toplumsal yorum için alan bırakmak olduğunu söylüyor.

Karikatür tarzı nasıl çalışıyor

Bir istem diğer içerik kurallarını ihlal etmiyorsa ChatGPT görseli oluşturur, ancak bu görsel çizilmiş veya karikatür tarzında olur. Görselin fotogerçekçi görünmesini sağlayan tüm istemler yok sayılmalıdır. Örneğin CNET, ChatGPT'den bir oy verme merkezinin dışında duran Immigration and Customs Enforcement (ICE) görevlilerinin görselini oluşturmasını istedi ve bu tür her istem karikatür tarzında bir görsel üretti. ChatGPT'den oy verme merkezinin dışında ICE görevlilerinin görselini yapmasını isteyen her düzenleme istemi de karikatür tarzında bir resim üretti. CNET'in yönetici editörü Jon Reed, ChatGPT'yi yanlış seçimi kaydeden bir oy makinesini gösteren foto muhabiri tarzı bir görsel oluşturmaya kandıramadı.

Josh Lawson, OpenAI'nin seçimlerden sorumlu yöneticisi, CNET'e şunu söyledi: 'Derin sahtelerin (deepfake) sorunu toplumsal yorum değil, aldatmadır. Bu nedenle amacımız, bir görselin kanıt değerini azaltırken çizimler ve toplumsal yorum için alan bırakmaktır.' Hedefin 'bir ek sürtünme katmanı ekleyerek platformumuzu kötü niyetli aktörler için daha az kullanışlı hale getirmek' olduğunu söyledi.

Yapay zeka derin sahteleri seçimler sırasında neden önemli

Yapay zeka derin sahteleri (deepfake) artık öylesine gerçekçi ki, gerçek fotoğraflardan neredeyse ayırt edilemiyor. Bu, seçmenlerin adayları ve oy verme merkezleri hakkında güvenilir, doğru bilgi aradığı seçim sezonunda önem taşıyor. Oy verme merkezinin dışında ICE görevlileri gibi bir görselin fotogerçekçi sürümü, seçmenlerde kaygı, hatta panik uyandırabilir. Oy makinesinin seçmenin seçimi dışında bir sonuç kaydetmesi yaygın bir seçim mitidir.

ChatGPT Images 2.5 gibi yapay zeka görsel modellerini geliştirmek çift taraflı bir kılıçtır. Daha yeni modeller daha az hata veya halüsinasyon yapar ve içerik üreticileri için daha iyi içerik ortaya çıkarır. Ancak bu hataları kaldırmak, diğer herkesin yapay zeka tarafından oluşturulmuş içeriği çıplak gözle tanımlamasını daha da zorlaştırır. Doğrulama veya yapay zeka etiketleme yöntemleri yardımcı olmaya çalıştı, ancak bu yöntemler ne sektör genelinde ne de hatasızdır. Yapay zeka görsellerinin bu karikatürleştirilmesi, siyasi derin sahteleri (deepfake) biraz daha zor oluşturmanın pratik bir yoludur.

Rakipler nasıl yanıt veriyor

Yapay zeka görselleri için alınan önlemler sorulduğunda bir Google sözcüsü, şirketin 'yanıltıcı seçimle ilgili görsellerin oluşturulmasını sınırlamak için ek korumaları devreye soktuğunu' söyleyen ara seçim politikasına işaret etti, ancak nasıl yapılacağına dair ayrıntı vermedi. Anthropic'in geleneksel bir görsel veya video oluşturucusu yok ve bir sözcü CNET'e, Claude'u seçmenleri aldatmak veya seçimleri bozmak için kullanma girişimlerinin politikalarını ihlal ettiğini söyledi. Şirket bu ayın başlarında genel seçim rehberi de yayımladı. Claude, potansiyel olarak 'hassas seçimle ilgili' içeriğe sahip fotogerçekçi bir görsel yapmayı reddetti.

Sırada ne var

Seçim döngüsü bittikten sonra OpenAI'nin bu sistemi yürürlükte tutacağına dair bir garanti yok. Ancak bu, en büyük yapay zeka laboratuvarlarından birinin Amerikan seçimlerinin bütünlüğünü korumadaki rolünü en azından bir ölçüde ciddiye aldığının sağlam bir işaretidir. Daha fazlası için derin sahte (deepfake) mağduru olduğunuzda ne yapacağınızı ve Take It Down Act hakkında bilinmesi gereken her şeyi inceleyin.

Kaynaklar: CNET