OpenAI ve Anthropic, İngiliz yasa yapıcılarına AI için zorunlu kurallar oluşturmalarını çağrıda bulundu

AI liderleri arasındaki tartışma

OpenAI ve Anthropic temsilcileri, İngiltere Parlamentosu komitesine gönüllü güvenlik yükümlülüklerinin artık yeterli olmadığını ve zorunlu yasalara ihtiyaç duyulduğunu söyledi. Bu durum, yeni düzenlemeye destek vermeyen Google DeepMind ve Meta ile olan tartışmayı derinleştirdi.

İlgili komite dört önde gelen AI şirketini, dört kıdemli eski çalışanı ve kıdemli kamu görevlisini dinledi. Avrupa'dan sorumlu Anthropic başkanı Liam Booth-Smith, şirketin "şirketler üzerinde zorunlu kurallar olması gerektiğini ve gönüllü yükümlülüklerin yeterli olmadığını sürekli düşündüğünü" söyledi. OpenAI Başkan Yardımcısı Tom Duff Gordon ise yasal çerçeve ve uluslararası konvansiyon desteklediğini, "bazı unsurların zorunlu olması gerektiğini" belirtti ve olay bildirimlerinden başlayarak ilerledi.

Rakipleri pek desteklemedi. Yasal çerçeveye destek verip vermediği sorulduğunda, Google DeepMind'den Owen Larter şirketin standartlara odaklandığını söyledi. Meta'dan Rob Sherman ise İngiltere'nin mevcut düzenleyicilerine işaret ederek parlamenterlere "boş bir sayfaya yazmadıklarını" söyledi.

Gönüllü rejim

Kamu görevlileri, mevcut sistemin ne kadar az yükümlülük getirdiğini kabul etti. İngiltere AI Güvenlik Enstitüsü, önde gelen modelleri yayınlanmadan önce test ediyor, ancak bunu yalnızca şirketler kendileri teslim ettiğinde yapıyor. Enstitü direktörü Henry de Zutt, enstitünün tamamen şirketlerin ve yabancı hükümetlerin işbirliğine bağımlı olduğunu kabul etti. Kabine Ofisi kıdemli kamu görevlisi Kate Little ise rejimin gönüllü olduğunu doğruladı: "Şu anda, evet, öyle."

De Zutt, AISI'nin aşırı derecede tehlikeli bir model yayınlayan bir şirketi durdurma yetkisi olmadığını ve bu modelleri sertifikalandırmadığını kabul etti. Önde gelen şirketlerin Amerikan veya Çinli olduğunu ve "biz, İngiltere olarak, sınırlı yeteneklere sahibiz" dedi. Liderler ayrıca İngiltere'nin Washington'a erişiminin sınırlı olduğunu belirtirken, OpenAI modellerini AISI ile paylaşmaya devam edeceğini söyledi, "ABD hükümetinin koşullarında bunu yapabildiğimiz sürece".

Kıdemli çalışanlar ve uyarılar

Dört kıdemli laboratuvar araştırmacısı ifade verdi; aralarında OpenAI eski çalışanı Daniel Kokotajlo da vardı ve "şirketlerin öz düzenlemeye güvenilmesi gerektiğini sanmıyorum" dedi. 2024 yılının sonundan beri OpenAI'de çalışmayan Stephen Adler, endüstrinin güvenlik kültürüne tam olarak ikna olmadığını söyledi. Jeffrey Irving ise laboratuvarların yanlış düşündüğünü, sanki hükümetlerin bozamayacağı bir yarışta kilitli olduklarını düşündüklerini belirtti.

Dinleme, MI5 direktörü Ken McCallum'un AI'nın "mevcut ve hatta yeni biyolojik silahlarda mutasyona neden olabileceği" uyarısıyla örtüştü. Komite başkanı Liam Byrne, bu uyarı ile gönüllü rejim arasındaki kontrastın "bilmeniz gereken her şeyi söylediğini" belirtti. Bakanların, İngiltere'nin gelecekteki G20 başkanlığını Güney Kore ile birlikte kullanarak mevcut beyaz evden bağımsız bir uluslararası konvansiyonun imzalanması için el koymasını istiyor ve "riskler güvenlik rejimimizi kontrol etme yeteneğimizden daha hızlı artıyor" diye uyarıyor.

Kaynaklar: Wired Ai