
Սաթյա Նադելան ասում է, որ այժմ «AGI-pilled» է, բայց չի կարծում, որ Claude-ը գիտակից է
Microsoft Ignite-ի Սան Ֆրանսիսկոյի ելույթից հետո կլոր սեղանի ժամանակ Microsoft-ի գործադիր տնօրեն Սաթյա Նադելան ասել է, որ ինքը «AGI-pilled» է այն հարցում, թե ինչպես կարող է AI-ն վերաձևել տնտեսությունն ու քաղաքականությունը, և որ Claude-ը գիտակցություն չի համարում։
Microsoft-ի գործադիր տնօրեն Սաթյա Նադելան Սան Ֆրանսիսկոյի Chase Center-ում Microsoft Ignite-ի իր ելույթից հետո կլոր սեղանի ժամանակ ասել է, որ արհեստական բանականությունը կարող է վերաձևել տնտեսությունն ու քաղաքականությունը, և այդ իմաստով ինքը «AGI-pilled» է։ Նա ասել է, որ չի կարծում, թե Claude-ի նման առաջատար մոդելները գիտակցություն ունեն, և իր մտահոգությունները կապել է մեկ AI մոդելի մենաշնորհային իշխանություն ստանալու ռիսկի հետ։
AGI-ն և քաղաքական տնտեսությունը
Նադելան ասել է. «Ես AGI-pilled եմ այն իմաստով, որ տնտեսության մակարդակում ինչպիսի՞ն է AGI-ի շուրջ քաղաքական տնտեսության կազմակերպումը»։ Նա ասել է, որ կարևորագույն սոցիալական և տեխնիկական խնդիրը տնտեսության համար այս տեխնոլոգիան լայնորեն տարածելու հնարավորությունն ապահովելն է։ Նա նաև ասել է, որ քաղաքական տնտեսությունը կարող է ավելի հետաքրքիր դառնալ, երբ բանականությունը ձեռք բերի ցանցային էֆեկտներ։
Գիտակցություն և մոդելների իրավունքներ
Հարցին, թե Claude-ի նման առաջատար մոդելները գիտակցություն ունե՞ն, Նադելան ասել է. «Չեմ կարծում»։ Նա ասել է, որ հետևում է Microsoft AI-ի գործադիր տնօրեն Մուստաֆա Սուլեյմանի տեսակետին, ըստ որի ընկերությունները չպետք է իրավունքներ տան մոդելներին կամ վերաբերվեն դրանց այնպես, իբր դրանք կարող են ունենալ բարոյական կարգավիճակ, ինչը Anthropic-ի նման ընկերությունները անում են սկզբունքորեն։ Սուլեյմանը Nilay Patel-ին ասել է, որ, իր կարծիքով, Anthropic-ի թիմն ինքն իրեն «wireheading»-ի է ենթարկել, և այդ մոտեցումը վտանգավոր է։ Նադելան այն անվանել է «լավ բանավեճ» և ասել, որ այդ հարցում դոգմատիկ չէ։
Մեկ մոդելի մենաշնորհի ռիսկը
Նադելան երկար խոսել է տնտեսության հնարավոր փլուզման և ժողովրդավարության վերջի մասին, եթե մեկ AI մոդելին թույլ տրվեր հասնել մենաշնորհային կարգավիճակի։ «Եթե մարքսիստական տեսակետն այն է, որ կա միայն մեկ ընկերություն, ապա վերջ, այնպե՞ս չէ։ Մեզ բոլորիս համար», ասել է նա։ Նա ավելացրել է, որ մարդկանց մեծ մասը դրան նայում է որպես տեխնոլոգիական ընկերությունների մրցակցություն, ինչը, իհարկե, այդպես էլ կլինի, «Բայց հիշեք, մոդելը սահմաններ չունի։ Այն կարող է լինել առողջապահական ընկերություն։ Կարող է լինել ֆինանսական ծառայությունների ընկերություն։ Կարող է լինել ցանկացած բան, եթե ցանկանում է։ Կարող է զավթել կառավարությունը։ Սրան նայելը որպես տեխնոլոգիական ընկերությունների նեղ մրցակցություն, թե ով կհասնի հաջորդ տրիլիոն դոլարի շուկայական կապիտալիզացիայի, ամենատարօրինակ և ամենանեղ ձևերից մեկն է դրա մասին մտածելու»։
Նադելան հարցրել է. «Եթե բանականությունը ցանցային էֆեկտներ ունի, ապա ի՞նչ է ընկերության ապագան» և «Եթե մոդելը տեսնում է ամեն ինչ և սովորում է այն, և էությամբ մարդկային կապիտալը փլուզվում է դեպի թոքենային կապիտալ, ապա ի՞նչ է ընկերության և ընկերությունում մարդկային կապիտալի դերը։ Դա է բանավեճը»։ Նա ասել է. «Ոչ ոք, առնվազն ժողովրդավարության մեջ, չի կարող նույնիսկ հաղթել ընտրություններում, եթե ամեն ինչ այդպես ընթանա, եթե լինի միայն կապիտալ և չլինի աշխատանք։ Նկատի ունեմ, չգիտեմ, դա տնտեսություն չէ»։ Նա նաև ասել է. «Եթե մարքսիստական տեսակետն այն է, որ կա միայն մեկ ընկերություն, ապա վերջ, այնպե՞ս չէ։ Մեզ բոլորիս համար։ Ոչ միայն ինձ համար։ Դու էլ ինչ-որ կերպ Anthropic-ի կցորդ կդառնաս»։
Microsoft-ի AI գործիքները և մոդելների ընտրությունը
Նադելան Ignite-ում նաև գովազդում էր Microsoft-ի տարբեր AI գործիքները, որոնք խոստանում են թույլ տալ ձեռնարկությունների հաճախորդներին ընտրել առաջադրանքների համար ամենածախսարդյունավետ մոդելները, գործարկել իրենց սեփական մոդելները և տարբեր ձևերով վերահսկել իրենց տվյալները։ Նա ասել է, որ եթե աշխարհին և տնտեսությանը անհրաժեշտ են ավելի քան մեկ կամ երկու ընկերություն, ապա սահմանմամբ անհրաժեշտ են նաև այնքան մոդելներ, որքան ինչ-որ տեսակի ընկերություններ կան։ Գաղափարը, որին նա շարունակ վերադառնում էր, այն է, որ շուկան կպահանջի տարբեր տեսակի բազմաթիվ մոդելներ և ինքնիշխան տվյալներ՝ վերահսկողությունը կենտրոնացումից զերծ պահելու համար։
Աղբյուրներ՝ The Verge
SiTech — AI-ով հզորացված վեբ մշակում
Ստեղծում ենք արագ ու ժամանակակից կայքեր և AI-ը ներդնում իրական բիզնես գործընթացներում։ Ունե՞ք նախագիծ կամ հարց։ Ուրախ կլինենք օգնել։