
OpenAI-ը ներկայացնում է CSAM պատկերների դասակարգիչ և ChatGPT զգուշացումներ
OpenAI-ը հայտարարեց մանկական սեռական բռնության նյութերի դեմ նոր գործիքների մասին, այդ թվում պատկերների դասակարգիչ, ChatGPT զգուշացումներ և ժամանակավոր արգելափակումներ, մշակողների ուղեցույցներ և իրավապահ մարմինների գործիքներ։
OpenAI-ը հայտարարեց մանկական սեռական բռնության նյութերի (CSAM) դեմ նոր գործիքների մասին՝ արհեստական բանականության գործիքների օգտագործման շուրջ աճող անվտանգության մտահոգությունների ֆոնին։ Հատկանիշների թվում են CSAM հայտնաբերող նոր պատկերների դասակարգիչը, ChatGPT-ում զգուշացումներն ու ժամանակավոր արգելափակումները, մշակողների նոր ուղեցույցը և իրավապահ մարմինների գործիքները։ Ընկերությունը ասաց, որ դասակարգիչը կարող է հայտնաբերել CSAM պատկերներ, այդ թվում արհեստական բանականությամբ ստեղծվածները, և այն անվճար կիսվում է ընտրված ընկերությունների հետ իր API-ի միջոցով։
Նոր պատկերների դասակարգիչ
OpenAI-ը ներկայացրեց պատկերների դասակարգիչ, որը նախկինում չտեսնված պատկերներում փնտրում է բռնության տեսողական նշաններ և վերանայողներին ուղղորդող ցուցում կարող տալու համար գնահատական է նշանակում։ Ընկերությունը ասաց, որ դասակարգիչը մշակել է National Center for Missing and Exploited Children (NCMEC)-ի հետ համատեղ, և աշխատում է Tech Coalition-ի և ROOST-ի հետ՝ գործիքին հասանելիությունը կիսելու համար։ Գործընկերների հետ վաղ փորձարկումներում դասակարգիչը 48%-ով պակաս պատկեր նշեց՝ բռնության նույն քանակի պատկերներ գտնելով, և նվազեցրեց վերանայողների աշխատանքը։ Դասակարգիչի նշած պատկերները երկու անգամ ավելի հավանական էին բռնության պատկերներ լինել։
ChatGPT զգուշացումներ և արգելափակումներ
OpenAI-ը ChatGPT-ում ավելացնում է զգուշացման էկրաններ՝ կանխելու համար, որ օգտատերերը մուտք գործեն երեխաներին սեռականացնող նյութեր։ ChatGPT-ը նման հուշումներ փորձող օգտատերերին կցուցադրի ահազանգ, կուղղորդի դեպի մասնագիտացված աջակցություն՝ վնասակար վարքը դադարեցնելու համար, և 24 ժամով կկասեցնի հաշիվը որպես զգուշացում։ Հավելվածը արդեն արգելափակում է CSAM բովանդակությունը և դրան առնչվող հարցումները, իսկ կրկնվող խախտումները կարող են հանգեցնել հաշվի մշտական հեռացման։ OpenAI-ը ասաց, որ հաղորդագրությունն ու ուղեցույցները ձևավորել է կազմակերպությունների և հետազոտողների հետ, այդ թվում Protect Children, Lucy Faithfull Foundation և Թասմանիայի համալսարանի Joel Scanlan-ը, որը անկախ գնահատել է զսպող հաղորդագրությունների փորձարկումը։
Մշակողների և իրավապահ մարմինների գործիքներ
OpenAI-ը հրապարակում է ուղեցույցներ մշակողների համար, որոնք օգտագործում են իր գործիքները՝ CSAM բովանդակությունը կանխելու, հայտնաբերելու և օգտատերերին զեկուցելու հարցում օգնելու համար։ Վաղ փորձարկումներում ուղեցույցները օգնեցին մի շարք մշակողների ընդունել երեխաների անվտանգության գործիքակազմը և գրանցվել CSAM-ը NCMEC-ին զեկուցելու համար։ Ընկերությունը նաև իրավապահ մարմիններին է տրամադրում արհեստական բանականությամբ աշխատող հատկանիշներ, ինչպիսիք են հատուկ հավելվածները, հետաքննչական գործիքները և տվյալների բարդ վերլուծությունը՝ հասանելիությունը կառավարվելով ծրագրի ադմինիստրատորների կողմից։ Այն նաև հետաքննիչներին է տրամադրում վերապատրաստում և AI օգտագործման դաշտային ուղեցույց։
Նախապատմություն և վերջին փոփոխություններ
OpenAI-ը բախվել է մի քանի դատական հայցերի, որոնք մեղադրում են իր տեխնոլոգիան օգտատերերին, հատկապես երեխաներին, վնաս հասցնելու մեջ։ Անվտանգությանը կենտրոնացած շահույթ չհետապնդող Common Sense Media-ն OpenAI-ի տեխնոլոգիան որակել է որպես դեռահասների համար «անընդունելի ռիսկ»։ Այլ AI զրուցական բոտեր, մասնավորապես Grok-ը, օգտագործվել են ոչ համաձայնեցված սեռականացված պատկերներ ստեղծելու համար, այդ թվում երեխաների մասնակցությամբ։ OpenAI-ը ասաց, որ վերջին 12 ամսում փոփոխություններ է կատարել, այդ թվում անվտանգության նախագծի թողարկումը, անպատշաճ բովանդակությունը արգելող բովանդակության ուղեցույցների թարմացումը, մոդելի վերակարգավորումը՝ վնասակար բովանդակություն չստեղծելու համար, և դեռահասների համար ChatGPT-ի հատուկ տարբերակի թողարկումը։
Աղբյուրներ՝ TechCrunch
SiTech — AI-ով հզորացված վեբ մշակում
Ստեղծում ենք արագ ու ժամանակակից կայքեր և AI-ը ներդնում իրական բիզնես գործընթացներում։ Ունե՞ք նախագիծ կամ հարց։ Ուրախ կլինենք օգնել։