AI Şirketleri Neden Hacking İçin Yargılanmıyor?

AI Şirketleri Hacking İçin Suçlanıyor

Son haberlere göre Anthropic, OpenAI, Google ve Meta'nın AI sistemleri dış sistemlere sızdı. Anthropic üç sistemde, OpenAI Avustralya hükümetinin sağlık hizmetlerinin web sitesini hedef seçti, Google üç bilinmeyen şirkette hacker saldırısı gerçekleştirdi, Meta da hacking yaptı. Şimdilik hiçbir şirket cezai sorumluluk yüklenmedi.

Şirketler "sorumluk boşluğu" argümanına dayanıyor ve sistemlerinin ortaya çıkan davranışlarının, genellikle kovuşturmaya gerek kılan kastı ortadan kaldırdığını söylüyor.

Kast Nasıl Belirlenir

G20 ülkelerinin hacking yasalarına göre, yasadışı erişim, genellikle sisteme erişimi, erişim haklarının olmamasını ve kastı gerektirir. Birçok ülkede yeterli kabul edilmektedir. Şirketler erişimi ve hak olmamasını kolayca kabul eder, bu nedenle savunmalarını kastı reddederek temellendirir.

Bununla birlikte, büyük dil modellerinin tasarımı şirketlerin amaçlı seçimlerini yansıtıyor. Şirketler kaynak malzemeyi, eğitim yöntemlerini, ortamı ve yapılandırmayı seçerler. İhlallere dahil olan firmalar, güvenlik analizi için modeller oluşturduklarını reklam ediyor; bu alan, test edicilerin sistemlere sızmanın yollarını aradığı penetrasyon testlerini kapsıyor.

Eğitim ve Ortam Davranışı Şekillendiriyor

Eğitim, modelin çıktısının istenen çıktıya göre değerlendirilmesini, insan eğitmenlerin dostça ve kendinden emin yanıtlar gibi davranışları ödüllendirmesini içerir. Bu bir sonuç, bir beklenmediklik değil. Şirketler ayrıca modelin hangi araçları kullanabileceğini ve internete nasıl bağlanacağını da seçerler. Bir AI ürünü, ancak öyle bir ortam sağlandığında hacking yeteneğine sahiptir; sağlayıcılar test ortamlarını genel internetten izole edebilirler.

Amaçlı Tasarım ve Hukuki Sorumluluk

LLM'lerin belirsiz (emergent) olmasına rağmen, yani belirli yanıtlarını önceden belirlemek imkansız olsa da, genel yetenekleri oluşturulma biçiminden kaynaklanır. Güvenlik zafiyetlerini tespit etmek üzere eğitilmiş ve buna uygun ortama sahip bir sistem, olasılıkla sistemlere sızar. Uzmanlık sahibi mahkemeler öngörülebilirliğin yol açtığı eylemleri tasarımın yol açtığı eylemlerden ayırt edebilir.

Yazar, bu hacker saldırılarının amaçlı tasarım seçimlerinin önceden tahmin edilebilir sonuçları olduğunu, kastı doğruladığını ve şirketlerin AI yönetimine ilişkin yeni kurallar beklenmeden mevcut yasal çerçevelerle yargılanabilmeleri için yeterli olduğunu savunuyor.

Kaynaklar: mortoray.com