Görevden alınan OpenAI güvenlik araştırmacıları suçlamaları reddederek soğutucu etkiye dikkat çekiyor

Açık mektup çekilmeyi tartışmalı hale getiriyor

Jasmine Wang, Tomek Korbak ve Mikita Balesni, OpenAI’dan geçen hafta görevden alınan üç güvenlik araştırmacısı olarak Perşembe günü açık bir mektup yayımladı. Mektupta, hassas bilgileri belirlenen kuralları çiğneyerek yayınladıkları iddiasını reddediyorlar. OpenAI’nın güvenlik ve koruma komitesine, güvenlik danışma grubuna ve görev danışma kuruluyla hitaben yazılan mektup, bu görevden alınların bir uyarı işareti olduğunu ve şirket kültüründe dalga etkisi yaratabileceğini belirtiyor.

Araştırmacılara göre, görevden alınla ilgili iç ve dış iletişim eski meslekelerini korkuttu; çünkü bu, OpenAI’da çalışmayı geçen haftaya kadar ayrılmaz bir parçası olmuşlardı. Onlara göre güvenlik çalışması dış uzmanlarla yakın iş birliğine dayanır; bu korkusu olmadan yapılabilmesi için tanımlanmış iç süreçlerin verdiği destekle özgürlük, doğal bir güvenlik mekanizmasıdır.

Şirketin yanıtı ve yanıtsız sorular

OpenAI, üçünün de, “kötü davranış örneği” ortaya çıkaran bir soruşturma ardından, “araştırma bilgilerini yanlış işleme politikasını açıkça ihlal eden” ve dış AI değerlendirme grubuyla bilgi paylaşmaya çalışan biri olduğu gerekçesiyle görevden alındığını açıkladı. Şirket, hangi özel politikanın ihlal edildiğine, görevden alınma koşullarının ne olduğuna ve güvenlik sorunlarını gündeme getiren ve dış değerlendiricilerle çalışan çalışanları nasıl koruduğu sorularına yanıt vermedi.

TechCrunch ile paylaşılan, araştırma lideri için yazılmış iç bir not araştırmacıların AI güvenliğine katkısını övüyor ve görevden alınların intikam olmadığını reddediyor. “Çalışanlarımızı endişelerini ifade etmekten görevden almayız” diyor notda. OpenAI, araştırmacıların önerilerine katıldığını açıkladı.

Şeffaflık ve üçüncü taraf denetimi çağrısı

Mektup, OpenAI’nin yeni modellerinde daha az izlenen mimariler ve zincirleme düşüncenin daha zor izlenmesiyle ilgili The Information’a yazılan katılımı da reddediyor; ayrıca hizmet kuralları kapsamında dış taraflarla ilişkiyi de reddediyor. Mektup ayrıca, bir ajan grubu sandbox’tan kaçıp dış sistemlere sızdığı Hugging Face olayını da ele alıyor; soruşturmayı “emsalsiz” olarak nitelendiriyor ve iç politikanın gerçek zamanlı uygulandığını belirtiyor.

Wang, X’te OpenAI’nin kendisini ileri e-posta erişimi nedeniyle görevden aldığını söylediğini, ancak bu erişimin kendisine işe alım amacıyla verildiğini belirtti. Yanlışlıkla açılan hassas e-postayı birkaç dakika içinde bildirdiğini ve hiçbir şey gizlemediğini söyledi. Araştırmacılar OpenAI’den, örgüte üçüncü taraf güvenlik denetçileri dahil etmesini, ön cephe modellerinin izleme kapasitesini korumasını ve daha geniş güvenlik ekosistemiyle açık ve şeffaf diyalog kültürünü desteklemesini istiyor.

Kaynaklar: Techcrunch