Geri Dön

Satya Nadella artık AGI-pilled olduğunu söylüyor, ancak Claude'un bilinçli olduğunu düşünmüyor
SiTech AI Team3 dk okuma

Satya Nadella artık AGI-pilled olduğunu söylüyor, ancak Claude'un bilinçli olduğunu düşünmüyor

San Francisco'daki Microsoft Ignite konuşmasının ardından düzenlenen yuvarlak masa toplantısında Microsoft CEO'su Satya Nadella, yapay zekânın ekonomiyi ve siyaseti nasıl yeniden şekillendirebileceği konusunda AGI-pilled olduğunu, ancak Claude'un bilinçli olduğunu düşünmediğini söyledi.

Microsoft CEO'su Satya Nadella, San Francisco'daki Chase Center'da Microsoft Ignite konuşmasının ardından düzenlenen yuvarlak masa toplantısında yapay zekânın ekonomiyi ve siyaseti nasıl yeniden şekillendirebileceği konusunda "AGI-pilled" olduğunu söyledi. Frontier modellerin, örneğin Claude'un bilinçli olduğunu düşünmediğini belirtti ve endişelerini tek bir yapay zekâ modelinin tekel gücü kazanması riskiyle ilişkilendirdi.

AGI ve siyasal ekonomi

Nadella, "AGI-pilled'im; şu anlamda, ekonomi düzeyinde AGI etrafında siyasal ekonominin örgütlenmesi nasıl olacak?" dedi. En önemli toplumsal ve teknik sorunun, bir ekonominin bu teknolojiyi geniş biçimde yayabilmesini sağlamak olduğunu söyledi. Ayrıca zekâ ağ etkileri kazandıkça siyasal ekonominin daha ilginç hale gelebileceğini belirtti.

Bilinç ve model hakları

Frontier modeller, örneğin Claude'un bilinçli olup olmadığı sorulduğunda Nadella, "Sanmıyorum," dedi. Şirketlerin modellere haklar vermemesi veya onları ahlaki statüsü olabilecek varlıklar gibi ele almaması gerektiğini, Microsoft AI CEO'su Mustafa Suleyman'ın görüşünü izlediğini söyledi; Anthropic gibi şirketler bunu ilke olarak yapıyor. Nadella, Suleyman'ın Nilay Patel'a Anthropic ekibinin kendi kendine "wireheading" yaptığını ve bu yaklaşımın tehlikeli olduğunu söylediğini aktardı. O bunu "iyi bir tartışma" olarak nitelendirdi ve bu konuda dogmatik olmadığını söyledi.

Tek model tekelinin riski

Nadella, tek bir yapay zekâ modelinin tekel statüsüne ulaşmasına izin verilirse ekonominin çökmesi ve demokrasinin sona ermesi potansiyeli hakkında uzun uzadıya konuştu. "Eğer Marksist görüşte olduğu gibi tek bir firma varsa, her şey biter, değil mi? Hepimiz için," dedi. Çoğu insanın bunu teknoloji şirketleri arasında bir rekabet olarak düşündüğünü, ki bu elbette böyle olacak, söyleyip ekledi: "Ama unutmayın, modelin sınırı yok. Bir sağlık şirketi olabilir. Finansal hizmetler şirketi olabilir. İstediği her şey olabilir. Hükümeti ele geçirebilir. Bunu teknoloji şirketleri arasında, bir sonraki trilyon dolarlık piyasa değerine kimin ulaşacağına dair dar bir rekabet olarak düşünmek, en tuhaf ve en dar bakış açılarından biridir."

Nadella, "Zekâ ağ etkileri varsa, bir firmanın geleceği ne olacak?" ve "Model her şeyi görüp öğreniyorsa ve temelde tüm beşeri sermaye token sermayesine çöküyorsa, bir firmanın ve firmanın beşeri sermayesinin rolü ne olacak? Tartışma bu," diye sordu. Ayrıca, "En azından bir demokraside hiç kimse, iş bu yönde giderse, yalnızca sermaye varsa ve emek yoksa, seçim bile kazanamaz. Yani bilmiyorum, bu bir ekonomi değil," dedi. Ayrıca, "Eğer Marksist görüşte olduğu gibi tek bir firma varsa, her şey biter, değil mi? Hepimiz için. Sadece benim için değil. Siz de bir şekilde Anthropic'in iştiraki olacaksınız," dedi.

Microsoft'un yapay zekâ araçları ve model seçimi

Nadella, Ignite'de Microsoft'un çeşitli yapay zekâ araçlarını da tanıtıyordu; bu araçlar kurumsal müşterilere çeşitli görevler için en uygun maliyetli modelleri seçme, kendi modellerini çalıştırma ve verilerini farklı şekillerde kontrol etme vaadinde bulunuyor. Dünyanın ve ekonominin bir veya iki firmadan daha fazlasına ihtiyacı varsa, tanım gereği firmaların sayısı kadar model olması gerektiğini söyledi. Tekrar tekrar vurguladığı fikir, kontrolün merkezileşmesini önlemek için piyasanın birçok farklı model ve egemen veri türüne ihtiyaç duyacağıydı.

Kaynaklar: The Verge

SiTech

SiTech — AI destekli web geliştirme

Hızlı ve modern web siteleri kuruyor, AI'yı gerçek iş akışlarına taşıyoruz. Projeniz veya sorunuz mu var? Yardımcı olmaktan mutluluk duyarız.