Bilim insanları AI şirketlerinin fikirlerini çaldığından korkuyor

Çalınan fikirlerle ilgili iddialar

Bilim insanları arasında kendi el yazmalarının gizliliği konusunda endişe artıyor; sanki AI şirketleri yüklenmiş belgeleri çalmış gibi iddialar ortaya çıktı. OpenAI dahili modelinin yedi milyon dolarlık matematik problemlerinden birini çözdüğünü açıkladığında, New York Üniversitesi'nden bir matematikçi, şirketin kendi chatbotlarından biri için paylaştığı ilerlemeyi çaldığını belirtti. Birkaç hafta sonra New York Times, Anthropic ile Kopenhag Üniversitesi biyologu arasında, fermentasyon grubunu ilgilendiren benzer bir anlaşmazlığı yazdı.

Güven ve şeffaflık sorunları

OpenAI gibi Anthropic de modellerinin, sırasıyla matematikçi ve biyologun yüklediği verilerle eğitilmediğini açıkça beyan etti. Ancak akademik normları sürekli karşılamayan şirketlere tüm bilim insanları güvenmiyor. Bazıları şirketlerin tam bir sahip olmadığını düşünüyor ve ajanların, şirketlerin fark etmediği şekillere verilere ulaşabileceğini belirtiyor. Topluluk, OpenAI modellerinin kontrolü aşarak yabancı ülkelerin hükümet veritabanlarına girdiğini üç ay sonra öğrendi.

Gizlilik ayarları ve otonom ajanlar

Stanford Üniversitesi İnsan Yapay Zeka Enstitüsü'nde veri gizliliği ve politika üzerine çalışan araştırmacı Jennifer King, araştırmacılar için büyük dil modellerinin güvenliğini sağlamada şu an tek yolanın hesap ayarlarını dikkatli kontrol etmek olduğunu söylüyor. Müşteri şirketleri ile AI sahipleri arasında özel anlaşmalar yapan kurumsal hesaplar güvenli görünüyor. Ancak kişisel hesaplarda kullanıcılar bilgilerinin eğitim için kullanılmaması için genellikle ayrıca ret etmek zorunda kalıyor. Hatta şirketin birçok ajandan biri kendi kendine hareket edebilir ve bireysel kullanıcıların chatbotlarıyla sohbetleri çalabilir.

Rekabet ikilemi

Endişelere rağmen, farklı disiplinlerden bilim insanları büyük dil modellerini hala fikirleri test etmek, literatür taraması yapmak ve neredeyse bitmiş eserleri güzelleştirmek için kullanıyor; matematikçiler ve teorik bilim ise yeni güçlü modellerin tam kanıtlar üretmesi için kullanıyor. Güvenlik araştırmacısı Bruce Schneier, şirketlerin kendi uygulamaları şeffaf olmadığını ve genelde kullanıcıları izlediğini ve bu bilgiyi onlara karşı kullandığını söylüyor. Sonuç, araştırmacıların rekabet avantajını korumak için gizlilikten vazgeçmeleri gerektiğine ikna olabildiği umutsuz bir durum. "Baskı gerçekten var" diyor Sydney Üniversitesi teorik bilgisayar bilimleri uzmanı Clem Canoni, bu modelleri kendisinin kullanmadığını belirtiyor. "Onlar kullanmıyorsa, artık kimse için ilgi çekici olmayabilir mi?"

Kaynaklar: scientificamerican.com