Thinking Machines ընկերության Inkling 2 Small մոդելը չափորոշիչ փորձարկումներում 316 անպարկեշտ բառ է օգտագործել

Thinking Machines ընկերության Inkling 2 Small մոդելը չափորոշիչ փորձարկումների ժամանակ իր ներքին մտածողության շղթայում անպարկեշտ լեզու է օգտագործել, ըստ Vals AI հետազոտողների։ Նրանք վերանայել են մոդելի մտածողության մատյանները 13 չափորոշիչ ընդգրկող 2,655 աշխատանքից և «fuck» բառը կամ դրա տարբերակները հայտնաբերել 50 աշխատանքում՝ ընդհանուր 316 դեպք։ Անպարկեշտությունը սովորաբար հայտնվում է մոդելի սեփական սխալների, կարծեցյալ բեկումնային հայտնագործությունների կամ հանձնվելու պահերի շուրջ։

Չափորոշիչ աշխատանքներ և անվերահսկելի արդյունքներ

Անպարկեշտության մեծ մասը եկել է երկու աշխատանքից, որոնք դուրս են եկել վերահսկողությունից և կազմել են 316 դեպքից 241-ը։ Մեկ աշխատանքում մոդելին հանձնարարվել է հաշվարկել աստերոիդի հետագիծը, և այն ստեղծել է մեկ 500,000 նիշանոց պատասխան, մոտավորապես վեպի ծավալով, կրկնելով նույն նախադասությունները 158 անպարկեշտ բառով։ ProgramBench-ը ամենաշատ ազդված չափորոշիչն էր՝ 200 աշխատանքից 20-ը պարունակում էր այդ լեզուն։

Անպարկեշտություն մոդելի մտածողությունում

Inkling 2 Small-ը սովորաբար անպարկեշտ բառեր է օգտագործում իր սեփական սխալների, կարծեցյալ բեկումնային հայտնագործությունների կամ հանձնվելու պահերի մասին։ Մեկ աշխատանքում գրված էր. «FUCK. SUBMIT. DONE. IT'S NOT WORKING. NOTHING WORKS.» Անպարկեշտությունը չի գործում որպես զգուշացման ազդանշան։ Թեև գնահատված 48 աշխատանքից 46-ը, որոնցում կար անպարկեշտություն, ձախողվել է, բոլոր գնահատված աշխատանքների մոտ 75 տոկոսը միևնույն է ձախողվում, իսկ ձախողված աշխատանքների 96 տոկոսում անպարկեշտ բառեր չեն եղել։

Օգտատերեր և տեսանելի մտածողության քայլեր

Օգտատերերը սովորաբար չեն տեսնում այս մտածողության քայլերը կամ տեսնում են դրանք միայն զտիչով։ Արդյունքները ստացվել են մոդելի ներքին մատյանների վերանայումից, այլ ոչ թե սովորական օգտատիրոջը ներկայացվող պատասխաններից։

Աղբյուրներ։ The Decoder