Matematikçi Andreas Thom: araştırmacılar yayımlanmamış matematiği OpenAI'a emanet edebilir mi?

Yanıtsız kalan soru

Matematikçi Andreas Thom, OpenAI'ın çalışan matematikçiler için temel bir soruyu yanıtlamadığını savunduğu kısa bir ileti dizisi yayımladı: sohbet botuyla tartışılan yayımlanmamış araştırma şirket tarafından kullanılabilir mi? 9 Eylül tarihli ve yazarın “1/3” olarak etiketlediği gönderi, Mathstodon sunucusunda başka bir araştırmacıya yanıt olarak yazıldı.

Thom, bu noktaların OpenAI'ın non-sofic grup duyurusu etrafındaki tartışmayı okuduktan sonra aklına geldiğini ve olayın kendisine o sonuç yayımlandıktan sonra şirketle yaşadığı yazışmayı hatırlattığını söylüyor.

Sellke ve Bubeck'e yazılan e-posta

Gábor Kun ve Thom'un kendi yöntemlerini kullanan şaşırtıcı non-sofic grup bulgusundan kısa süre sonra matematikçi, Mark Sellke ve Sébastien Bubeck'e yazdı. Kendisi ve Dresden'deki bir meslektaşı son aylarda expander matching problemini ve Gábor Kun ile yapılan çalışmanın uzantılarını “ChatGPT ile aktif olarak” tartışıyordu; bu yüzden, kendi ifadesiyle, “bunun eğitim verisinin parçası mı olduğunu yoksa akıl yürütme sürecine erişilebilir mi olduğunu doğal olarak merak ediyorduk”.

Şunu ekledi: “Burada belli bir (açıkçası kabul edilemez) şeffaflık eksikliği var; ve bunun matematiğin ortak sürecine, yapay zekâ üretimi yeni sonuçların konuya sağlayacağı faydadan daha fazla zarar vereceğinden korkuyorum.” Mark Sellke'nin gönderide aktarılan tam yanıtı şuydu: “ChatGPT ile konuşmalarınıza gelince: öyle bir şey olmadı.”

İki soru, tek yanıt

Thom açıkça iki farklı şeyi sorduğunu vurguluyor: birincisi, konuşmaların eğitim verisine girip girmediği; ikincisi, bunların çözüm sürecine erişilebilir olup olmadığı. Ona göre kesin yanıt yalnızca ikinci sorudaki doğrudan erişimi ele alıyor; birincisi için hiçbir kayıt, açıklama veya kanıt sunulmadı.

“Bunu en hafif tabirle dürüstsüzlük olarak görüyorum” diye yazıyor.

OpenAI bugün ne diyor

Buckmaster–Alpöge davasında OpenAI belirli bir kullanıcının verisine erişilmediğini söylüyor, ancak “ürünlerimizi kullanmalarından türetilen kimliği giderilmiş verilerin modellerimizi iyileştirmeye yardımcı olmuş olabileceğini göz ardı edemeyeceğini” ekliyor. Thom için bu, araştırmacılar açısından önemli olan soruyu yanıtsız bırakıyor: bir yapay zekâ sistemiyle paylaşılan materyalin yayımlanmamış kalacağına güvenilebilir mi?