Մաթեմատիկոս Անդրեաս Թոմը. կարելի՞ է վստահել OpenAI-ին չհրապարակված մաթեմատիկան

Բաց մնացած հարցը

Մաթեմատիկոս Անդրեաս Թոմը հրապարակել է կարճ թրեդ, որում պնդում է, որ OpenAI-ը չի պատասխանել աշխատող մաթեմատիկոսների համար հիմնարար հարցին. կարո՞ղ է իր չաթբոտի հետ քննարկված չհրապարակված հետազոտությունը օգտագործվել ընկերության կողմից: Սեպտեմբերի 9-ով թվագրված գրառումը, որը հեղինակն ինքը պիտակել է «1/3», գրվել է Mathstodon-ի սերվերում՝ ի պատասխան մեկ այլ հետազոտողի:

Թոմը նշում է, որ այս կետերը մտքին եկան OpenAI-ի non-sofic խմբի հայտարարության շուրջ քննարկումը կարդալուց հետո, և որ դրվագը նրան հիշեցրեց այն նամակագրությունը, որը նա ունեցել է ընկերության հետ այդ արդյունքի հրապարակումից հետո:

Նամակը Սելքեին և Բուբեքին

Զարմացնող non-sofic խմբի հայտնաբերումից կարճ ժամանակ անց, որը հիմնված էր Գաբոր Կունի և հենց Թոմի մշակած մեթոդների վրա, մաթեմատիկոսը գրեց Մարկ Սելքեին և Սեբաստիան Բուբեքին: Վերջին ամիսներին նա և Դրեզդենում գտնվող գործընկերը քննարկում էին expander matching-ի խնդիրը և Գաբոր Կունի հետ աշխատանքի ընդլայնումները «ակտիվորեն ... ChatGPT-ի հետ», գրում է նա, ուստի «բնականաբար հետաքրքրված էինք, թե դա մարզման տվյալների մի մասն էր, թե հասանելի էր լուծման գործընթացին»:

Նա հավելել է. «Այստեղ թափանցիկության որոշակի (մեղմ ասած՝ անընդունելի) պակաս կա, և ես վախենում եմ, որ դա ավելի շատ վնաս կհասցնի մաթեմատիկայի հավաքական գործընթացին, քան AI-ի ստեղծած նոր արդյունքները օգուտ կբերեն ոլորտին»: Մարկ Սելքեի ամբողջական պատասխանը, ինչպես մեջբերվում է գրառման մեջ, հետևյալն էր. «Ինչ վերաբերում է ձեր զրույցներին ChatGPT-ի հետ. դա տեղի չի ունեցել»:

Երկու հարց, մեկ պատասխան

Թոմը շեշտում է, որ ինքը հստակորեն հարցրել է երկու տարբեր բաների մասին. առաջինը՝ արդյոք այդ զրույցները մտել են ուսուցման տվյալների մեջ, և երկրորդը՝ արդյոք դրանք հասանելի էին լուծման գործընթացին: Նրա ընկալմամբ՝ կտրուկ պատասխանը վերաբերում է միայն ուղղակի հասանելիությանը երկրորդ հարցում, իսկ առաջինի համար ոչ մի վերապահում, բացատրություն կամ ապացույց չի տրվել:

«Սա, մեղմ ասած, անազնվություն եմ համարում», գրում է նա:

Ինչ է ասում OpenAI-ն այժմ

Buckmaster–Alpöge-ի գործով OpenAI-ը հայտարարում է, որ կոնկրետ օգտատիրոջ տվյալներին հասանելիություն չի եղել, սակայն ավելացնում է, որ «չի կարող բացառել, որ մեր արտադրանքներից նրանց օգտագործումից ստացված ապաիդենտիֆիկացված տվյալները օգնել են բարելավել մեր մոդելները»: Թոմի համար սա անպատասխան է թողնում հենց այն հարցը, որը կարևոր է հետազոտողների համար. կարելի՞ է վստահել, որ AI համակարգի հետ կիսված նյութը կմնա չհրապարակված: