Riyaziyyatçı Andreas Tom: tədqiqatçılar dərc olunmamış riyaziyyatı OpenAI-a etibar edə bilərmi?

Cavabsız qalan sual

Riyaziyyatçı Andreas Tom OpenAI-ın işləyən riyaziyyatçılar üçün əsas suala cavab vermədiyini iddia etdiyi qısa yazı seriyası dərc edib: çatbotu ilə müzakirə olunan dərc edilməmiş tədqiqat şirkət tərəfindən istifadə edilə bilərmi? Sentyabrın 9-u ilə tarixlənən və müəllifin özünün “1/3” kimi işarələdiyi yazı Mathstodon serverində başqa bir tədqiqatçıya cavab olaraq yazılıb.

Tom deyir ki, bu fikirlər ona OpenAI-ın non-sofic qrupu barədə bəyanatı ətrafındakı müzakirəni oxuduqdan sonra gəlib və epizod ona həmin nəticə dərc edildikdən sonra şirkətlə olan yazışmasını xatırladıb.

Sellke və Bubeckə məktub

Qabor Kunun və Tomun özünün işləyib hazırladığı metodlara əsaslanan gözlənilməz non-sofic qrup kəşfindən qısa müddət sonra riyaziyyatçı Mark Sellke və Sebastyen Bubeckə yazdı. O və Drezdendəki həmkarı son aylarda expander matching problemini və Qabor Kunla işin genişlənmələrini “ChatGPT ilə aktiv şəkildə” müzakirə edirdilər; buna görə də “bunun təlim məlumatlarının bir hissəsi olduğunu, yoxsa düşünmə prosesinə əlçatan olduğunu təbii ki, maraq edirdik” deyə yazdı.

O əlavə etdi: “Burada müəyyən (açıq desək, qəbuledilməz) şəffaflıq çatışmazlığı var; və qorxuram ki, bu, riyaziyyatın kollektiv prosesinə yeni süni intellekt nəticələrinin sahəyə verəcəyi faydadan daha çox ziyan vuracaq.” Mark Sellkenin yazıda sitat gətirilən tam cavabı belə idi: “ChatGPT ilə söhbətlərinizə gəldikdə: belə bir şey olmadı.”

İki sual, bir cavab

Tom vurğulayır ki, o, iki fərqli şeyi açıq şəkildə soruşub: birincisi, söhbətlərin təlim məlumatlarına düşüb-düşmədiyi, ikincisi isə onların həll prosesinə əlçatan olub-olmadığı. Onun fikrincə, qəti cavab yalnız ikinci sualdakı birbaşa çıxışa aiddir; birinci sual üçün heç bir qeyd-şərt, izah və ya sübut verilməyib.

“Bunu ən yumşaq ifadə ilə desək, vicdansızlıq hesab edirəm” deyə yazır.

OpenAI indi nə deyir

Buckmaster–Alpöge işində OpenAI konkret istifadəçi məlumatlarına çıxışın olmadığını bildirir, lakin əlavə edir ki, “məhsullarımızdan istifadələrindən əldə edilən kimliyi silinmiş məlumatların modellərimizi təkmilləşdirməyə kömək etdiyini istisna edə bilməz”. Tom üçün bu, tədqiqatçılar üçün vacib olan sualı cavabsız qoyur: süni intellekt sistemi ilə paylaşılan materialın dərc olunmamış qalacağına etibar etmək olarmı?