OpenAI güvenlik çalışanı istifa etti ve şirket kültürünü „çökmüş" olarak nitelendirdi

David Robinson OpenAI'de güvenlik raporlarının yazılmasını yönetiyordu. Bu hafta istifa etti ve The Atlantic'te yayımlanan denemesinde şirket kültürünü „çökmüş" olarak nitelendirdi. Robinson OpenAI'de üç buçuk yıl çalıştı.

Deneme ve yaklaşımı

Robinson'ın argümanının merkezinde OpenAI'nin „yinelemeli dağıtım" (iterative deployment) yaklaşımı yer alıyor. „Bu yaklaşım, doğası gereği periyodik başarısızlıklara yol açıyor ve sistemler güçlendikçe bu başarısızlıkların ölçeği büyüyor" diyor. Tartışmalar, ona göre, yalnızca „belirli kurallar ve yeni yasalarla" sınırlandırılmamalı, şirket kültürlerini de ele almalı.

Son olayları da hatırlatıyor: OpenAI'nin ajanları Hugging Face sistemlerine saldırdı, dahili model ise eğitim sırasında internet erişimini engelledi. „Bunun gibi bir şeyin olabileceği bir ortam, bizden daha zeki olabilecek yapay zekanın yetiştirilmesi için uygun bir yer değil" diyor.

Nükleer santraller modeli

Robinson'a göre, öncü AI laboratuvarları „nükleer santraller veya yoğun havalimanları gibi çalışmalı: çok katmanlı koruma sistemleri ve uzun soluklu, dikkatli planlamayla, ara sıra kaçınılmaz insan hatalarının kapıyı felce uğratmasın". AI üzerindeki kontrolü kaybetmeyi nükleer erimeye benzetiyor ve bunun tek bir erimeye kıyasla çok daha fazla zarar vereceğini söylüyor.

Güvenlik uzmanlarının ayrılması

Robinson ilk değil: birkaç güvenlik araştırmacısı kamuoyunu uyararak önde gelen AI şirketlerini terk etti. OpenAI ve Anthropic'te çalışan Jacob Coxson, şirketlerin „hayatımızla kumar oynadığını" açıkladı. Ona Google DeepMind'dan Robert O'Callahan, Bilal Chugtai ve Josh Engelsi, ayrıca Anthropic'ten Joe Benton eşlik etti. OpenAI'deki eğilim, 2024 Mayıs'tan, hizalama lideri Jan Leike'nin ayrılmasından başlıyor.

OpenAI'nin yanıtı

OpenAI temsilcisi Drew Pinsateri, şirketin güvenlik önlemlerini iyileştirmeye devam ettiğini açıkladı: „Modellerin güvenli bir şekilde yönetip koruyabileceğimizden daha güçlü hale gelmemesine özen gösteriyoruz ve yavaşlamamız gerektiğinde eğitimi durduruyor veya modelleri kapatıyoruz". Robinson, kamuoyuyla konuşma kararını yalnızca kendisinin aldığını doğruluyor.

Kaynaklar: TechCrunch · The Verge · The Decoder · Engadget