ABD'nin sekiz eyaleti OpenAI'yi ChatGPT'nin çocuk güvenliğini tehlikeye attığı için davalıyor

Davalar

ABD'nin sekiz eyaleti OpenAI'ye karşı ayrı ayrı dava açtı ve şirketi, çocuklara zarar vermekle ve kullanıcıları ChatGPT'in sohbet botunun güvenliği konusunda yanıltmakla suçladı. Davalar Iowa, Kansas, Nebraska, Batı Virginia, Arkansas, Arizona, Idaho ve Montana tarafından açıldı; bunu ilk olarak Reuters yazdı.

Davalarda, OpenAI'nin ChatGPT'i geliştirirken yasalara aykırı olarak kazancı güvenliğe tercih ettiği, yerel kullanıcı koruma yasalarını ihlal ettiği ve kullanıcıları sohbet botunun tehlikeleri hakkında uyarmadığı belirtiliyor. Birçok davada, daha önce reşit olmayanların ve yetişkinlerin aile üyeleri tarafından açılan davalara gönderme yapılıyor; onlara göre yapay zekâ sohbet botu yakınlarının ölümünde bir rol oynadı.

Genç kullanıcılara olası zarar

Eyaletlerin iddialarına göre, OpenAI ChatGPT'i güvenliği ilk sıraya koyan, gençler için uygun bir araç olarak sundu, oysa gerçekte ürün, güvenliği sağlanmamış kullanıcılar için tehlikeliydi. Davalarda sohbet botunun eleştirel düşünme becerisini kötüleştirdiği, paranoiyayı ve takıntıları artırdığı, tehlikeli tıbbi tavsiyeler verdiği ve sağlıksız davranış ve ilişkilere zemin hazırladığı iddia ediliyor.

Davalar ayrıca OpenAI'yi reşit olmayanlardan veri toplamakla ve reşit olmayan kullanıcıların sohbet botuna erişimini yeterince engellemediğiyle suçluyor. Buna ek olarak davalar, son dönemde yaşanan ve şirketin ihmali olduğu gösterilen yapay zekâya yönelik yetkisiz siber saldırılara işaret ediyor.

Arizona davasında, OpenAI'nin kâr amacı gütmeyen, güvenliği öncelik ilan eden kuruluş olan ilk misyonundan, güçlü bir yapay zekâ aracının geliştirilmesine kazanca odaklı bir yaklaşımla yönetildiğinde ve temel güvenlik önlemleri geri planda bırakıldığında ne olduğunu gösteren uyarıcı bir hikâyeye dönüştüğü belirtiliyor.

OpenAI'nin yanıtı

E-posta ile gönderilen açıklamada OpenAI temsilcisi Drew Pusateri, şirketin ChatGPT'te endüstri lideri, yaşa uygun koruma mekanizmalarına sahip olduğunu söyledi. Mevcut önlemlere, arasında ebeveyn kontrolü, mola hatırmaları ve yaşa uygun model korumasına işaret ederek, şirketin ek koruma mekanizmaları geliştirmek için uzmanlarla çalışmaya devam edeceğini belirtti.

Pusateri ayrıca, OpenAI'nin yalnızca bir şirketi değil, tüm yapay zekâ endüstrisini ilgilendirecek pragmatik bir yapay zekâ politikasına öncülük etmek için eyaletlerle birlikte çalışmaya hazır olduğunu söyledi.

Eyaletler ne istiyor?

Eyaletler mahkemelerden, OpenAI'nin ChatGPT'in güvenliği konusunda toplumu yanıltmasını durdurmasını ve bir dizi sivil para cezası ödemesini istiyor. Bazı eyaletler ayrıca, yasalara aykırı olarak toplandığı iddia edilen kişisel verilerin silinmesini talep ediyor.

Kaynaklar: The Verge · Engadget