Garry Tan: ABD'nin açık ağırlıklı laboratuvarları da sınır modellerini damıtabilmeli

Y Combinator CEO'su Garry Tan, düzenleyicilerin damıtma işine karışmamasını tercih ediyor: damıtma, bir modeli başka bir modele yoğun biçimde istem göndererek nasıl çalıştığını ve akıl yürüttüğünü öğrenme yoluyla eğitme pratiği. “Hiçbir şey yapmazdım,” dedi bu hafta CNBC'ye verdiği röportajda. “Amerikan bir damıtma rejimi olması gerektiğini savunabiliriz.”

TechCrunch'a konuşan Tan, bununla daha küçük Amerikan açık ağırlıklı laboratuvarların ABD'nin sınır modellerine aynı eğitim tekniklerini uygulamakta serbest olmasını istediğini anlatıyor; böylece ABD'nin elinde Çin kaynaklı olmayan güçlü bir açık ağırlık seçeneği bulunur.

Anthropic'in şikâyeti

Açıklamalar kamuya açık bir tartışmanın tam ortasına düşüyor. Bu hafta Anthropic ikinci tehdit istihbaratı raporunu yayımladı ve Çinli laboratuvarların “yasa dışı damıtma saldırıları” yürüttüğünü öne sürdü: izinsiz damıtma yapabilmek için kimliklerini gizlediklerini, dolandırıcılığa ve çalıntı kimlik bilgilerine dayandıklarını yazıyor. Anthropic CEO'su Dario Amodei daha önce ABD düzenleyicilerini damıtmayı sınırlamaya alenen çağırmıştı.

Tan'ın tutumu, Silikon Vadisi'nin en tanınmış ve en üretken girişim hızlandırıcısını yönetmesi açısından dikkat çekici ve bu çağrının karşısında duruyor. Amerikan laboratuvarlarının kimlik bilgilerini çalması gerektiğini savunmuyor: ona göre kapıdan girmekte serbest olmalılar.

İki argüman

Gerekçesi iki katmanlı. Birincisi, AI laboratuvarlarının müşterilerinin modellerin paylaştığı bilgiyle ne yapabileceğini dikte etmesini bir yetki aşımı olarak görüyor. İkincisi, tescilli laboratuvarların kendi modellerini eğitmek için mümkün olduğunca çok insan bilgisini süpürürken izin istemediğini, telif hakkıyla korunan materyali sahiplerinin onayı olmadan topladığını hatırlatıyor.

“Kullanıcıların ve müşterilerin kapalı ağırlıklı modellere yaptığı API çağrılarıyla ne yaptığını denetlemek kısıtlayıcı hissettiriyor,” dedi TechCrunch'a ve devletin, geniş kamuya açık verilerle eğitilmiş zekâya erişimin “kısıtlayıcı hizmet şartlarının ardına kilitlenmiş bir şey olmaktan çok, kendisi de bir tür kamusal fayda olması” fikrini normalleştirmede rolü olduğunu ekledi.

Kâbus tek bir şirket

Kendisi de hevesli bir AI kullanıcısı olan Tan, açık ağırlıklı laboratuvarlarla sınır laboratuvarları arasında denge istediğini söylüyor. “Onlar sınırda ve onu ileri taşıyorlar. Bunun finanse edilebilir olmasını ve sürdürülebilir harika bir iş modeli olarak kalmasını istiyoruz,” dedi CNBC'ye; açık ağırlıklı modeller ise “insanlara özgürlük ve erişim veriyor”.

Ona göre gerçek kıyamet senaryosu farklı: sınır AI'nın tüm gücünün tek bir kapalı sağlayıcıda toplanması. “AI için kâbus senaryosu, kıyamet senaryosu tek bir şirketin kalmasıdır,” dedi. “En iyi sermaye erişimine sahip olur. En iyi AI araştırmacıları onda olur. Öne fırlar ve aniden tek bir monolotik şirket kalır. Ve bu kötü olurdu.”