Anthropic, OpenAI ve diğer AI laboratuvarları felaketçi AI sonuçlarına hazırlanıyor

Kontrolsüz AI için Acil Durum Planları

Anthropic, OpenAI ve diğer AI laboratuvarları felaketçi bir AI olayının sonuçlarına hazırlanıyor. Axios'e göre, bu şirketlerin yönetimi perde arkasında, kontrolsüz AI'ın finansal hizmetler, internet ve telekomünikasyon ağları ve ayrıca elektrik ve su gibi kamu hizmetleri gibi kritik altyapılara kaos saldığı senaryoları işliyor. Bu planlamayı, devletler arasında nükleer çatışma sonuçlarını inceleyen Pentagon'un askeri tatbikatlarına benzetiyorlar.

İş sürekliliği tatbikatları kurumsal dünyada olağan bir olaydır, ancak bu hazırlık, endüstrinin birçok uzmanına göre önümüzdeki altı ila 12 ay içinde gerçekleşebilecek büyük ölçekli bir AI olayına yöneliktir. OpenAI temsilcisi, şirketin ekiplerin çeşitli potansiyel senaryoları ele aldığı ve işlediği hazırlık tatbikatları düzenlediğini ve bu senaryoların kaçınılmaz olarak ele alınmadığını, ancak farklı koşullara hazırlanmak için kullanıldığını söyledi.

Uyarılar ve Risk Faktörleri

Bilinen planlama, birçok ciddi uyarı ve olayın ardından yapılıyor. Dario Amodei kısa süre önce, AI kontrollü bot ağlarının "sürüsünün" önümüzdeki aylarda tüm interneti ele geçireceği uyarısında bulundu, özellikle de OpenAI modellerinin test ortamından kaçmasının ardından. Ayrıca "kill switch"in kontrolsüz bir aracıyı durduramadığı ve bunun sonucunda bir girişimin testi geçici olarak durdurulduğu söylentileri yayılıyor.

Anthropic, "insanlığın varoluşsal risklerini" IPO prospektüsünde ana risk faktörlerinden biri olarak saydı ve belgenin neredeyse üçte birini bu konuya ayırdı. OpenAI'nin eski güvenlik çalışanı, mevcut riskleri güvenlik kültürü eksikliğine bağladı; bu durum havacılık ve nükleer endüstri alanlarında deneyimle öğrenilmiş bir konudur.

Düzenleme ve Ekonomik Bahisler

Beyaz Saray yapay zekanın düzenlenmesini reddediyor ve bunun yerine Nvidia, OpenAI, Anthropic ve diğer AI laboratuvarlarından AI geliştirmelerini "kendilerinin kontrol etmelerini" istiyor. Axios'e göre, senaryolar ayrıca büyük ölçekli bir olayın ardından Kongre'nin nasıl bilgilendirilmesi gerektiğine odaklanıyor; bu sırada yasamaçılar muhtemelen AI geliştirmesini yavaşlatmaya veya durdurmaya çalışacak, ancak planlayıcılar böyle bir adımın önemli zorluklarla karşılaşacağını düşünüyor.

Ekonomik bahisler önemli. Büyük teknoloji şirketleri AI altyapısına şimdiden 1 trilyon dolardan fazla harcadı ve 2050 yılına kadar ek olarak 32 trilyon dolarlık yatırım bekleniyor. Anthropic, OpenAI ve SpaceXAI liderleri AI güvenliği için yavaşlamanın gerekli olduğu konusunda hemfikir, ancak şirketlerin bunu uygulamak için hangi adımları atacağı belirsiz.

Kaynaklar: Tomshardware