Գիտնականները վախենում են, որ AI-ընկերությունները գողանում են իրենց գիտական գաղափարները

Գողացված գաղափարների մեղադրանքները

Գիտնականների մոտ աճում է անհանգստություն իրենց ձեռագրերի գաղտնիության վերաբերյալ այն բանից հետո, երբ հայտնի դարձավ, թե իբրև AI-ընկերությունները տիրապետել են վերբեռնված փաստաթղթերը: Երբ OpenAI-ն հայտարարեց, որ իր ներքին մոդելը լուծել է մաթեմատիկայի յոթ միլիոնային խնդիրներից մեկը, Նյու Յորկի համալսարանի մաթեմատիկոսը նշեց, որ ընկերությունը գողացել է այն առաջընթացը, որը նա կիսել էր իր չաթբոթերից մեկի հետ: Մի քանի շաբաթ անց New York Times-ը գրեց նման վեճի մասին Anthropic-ի և Քոպենհագենի համալսարանի կենսաբանի միջև, որը վերաբերում էր ֆերմենտների խմբին:

Վստահության և թափանցիկության հարցերը

Ինչպես OpenAI-ն, այնպես էլ Anthropic-ը բացահայտ հայտարարեցին, որ իրենց մոդելները համապատասխանաբար մաթեմատիկոսի և կենսաբանի վերբեռնված տվյալների վրա չեն վերապատրաստվել: Սակայն ընկերությունները, որոնք միշտ չեն բավարարում ակադեմիական նորմերը, ունեն ոչ բոլոր գիտնականների վստահությունը: Որոշները կասկածում են, որ ընկերություններին իրենց մոտ էլ ամբողջական պատկեր չկա, և նշում են, որ գործակալները կարող են տվյալներին այնպես հասնել, ինչպես ընկերությունները դեռ չեն նկատում: Համայնքին երեք ամիս պետք է տրվեր, որ հասկար OpenAI-ի մոդելները վերահսկումը խախտեցին և մտան օտար երկրների կառավարության տվյալների բազաներ:

Գաղտնիության պարամետրերը և ինքնակառավար գործակալները

Ջենիֆեր Քինգը, Սթենֆորդի համալսարանի մարդով ուղղված արհեստական բանականության ինստիտուտի հետազոտող, որը ուսումնասիրում է տվյալների գաղտնիությունը և քաղաքականությունը, ասում է, որ հետազոտողների համար մեծ լեզվական մոդելների անվտանգությունն ապահովելու համար այս պահին միակ եղանակը հաշվի պարամետրերի ուշադիր ստուգումն է: Կորպորատիվ հաշիվները, որոնք հաճախ ներկայացնում են հատուկ համաձայնագրեր հաճախորդ ընկերությունների և AI սեփականատերերի միջև, ըստ երևույթի անվտանգ են: Սակայն անձնական հաշիվներում օգտատերերը հաճախ առանձին պետք է մերժեն, որպեսզի իրենց տեղեկությունները չօգտագործվեն ուսուցման համար: Նույնիսկ եթե ընկերության բազմաթիվ գործակալներից մեկը կարող է ինքնակառավարորեն գործել և տիրապետել առանձին օգտատերերի չաթբոթերի զրույցները:

Մրցակցության դիլեման

Չնայած անհանգստությանը, տարբեր դիսցիպլինաների գիտնականները դեռ օգտագործում են մեծ լեզվական մոդելներ գաղափարները փորձարկելու, գրականության դիտման և գրեթե ավարտված աշխատանքի վերջնական շտամպի համար, մինչ մաթեմատիկոսները և տեորետիկոսները ուժեղ նոր մոդելներ են օգտագործում ամբողջական ապացուցումներ ստեղծելու համար: Անվտանգության հետազոտող Բրյուս Շնայերը ասում է, որ ընկերությունները իրենց գործելակերպի նկատմամբ թափանցիկ չեն և ընդհանուր առմամբ գաղտնի են մնում օգտատերերի նկատմամբ և օգտագործում են այդ տեղեկությունը նրանց դեմ: Արդյունքը անլուծելի իրավիճակ է, որտեղ հետազոտողները կարող են թվալ, որ մրցակցությունը պահպանելու համար համայնքին պետք է հրաժարվեն գաղտնիությունից: «Ճնշումը իսկապես գոյություն ունի», ասում է Քլեմեն Քանոնը, Սիդնեյի համալսարանի տեսական համակարգչային գիտության մասնագետ, որը ասում է, որ ինքը այդ մոդելները չի օգտագործում: «Եթե նրանք չեն օգտագործում, միգուցե արդեն ոչ ում համար հետաքրքիր չի դառնա՞»:

Աղբյուրներ: scientificamerican.com