Anthropic-ի վաղ ներդրող Jaan Tallinn-ը զգուշացնում է ԱԲ-ի վտանգների մասին

The Wall Street Journal-ը հրապարակել է էստոնացի ծրագրավորող և Skype-ի համահիմնադիր Jaan Tallinn-ի պրոֆիլը, որը Anthropic-ի ամենավաղ ներդրողներից մեկն էր։ Kate Clark-ի սեպտեմբերի 25-ի հոդվածում ասվում է, որ Tallinn-ն անցյալ շաբաթ անցկացրել է Նյու Յորքում՝ ՄԱԿ-ի Գլխավոր ասամբլեայում, և ներդրողներին ու քաղաքական գործիչներին փորձել է համոզել, որ արհեստական բանականությունը կարող է ոչնչացնել մարդկությանը։

Tallinn-ը ավելի քան մեկ տասնամյակ պաշտպանում է ԱԲ-ի անվտանգությունը։ Այս թեման կրկին ուշադրության կենտրոնում հայտնվեց, երբ Anthropic-ի հետազոտող Jacob Coxon-ը հրաժարական տվեց և զգուշացրեց, որ ԱԲ-ն կարող է դուրս գալ վերահսկողությունից։ «Ցավոք, կարծում եմ, որ մենք այս սպառնալիքին բավարար լրջությամբ չենք վերաբերվում և մրցավազքով ստեղծում ենք տեխնոլոգիա, որը կարող է վերջ տալ մարդկությանը», նշել է Tallinn-ը հայտարարության մեջ։

Խաղադրույքը Anthropic-ի վրա

2021 թվականին, այն բանից կարճ ժամանակ անց, երբ Dario Amodei-ն և այլ հետազոտողներ, մասամբ անվտանգության նկատառումներով, հեռացան OpenAI-ից և հիմնեցին Anthropic-ը, Tallinn-ը համաձայնեց գլխավորել 124 միլիոն դոլարի Series A փուլը։ Փուլին մասնակցեցին նաև Facebook-ի համահիմնադիր Dustin Moskovitz-ը, Jane Street-ի James McClave-ը, Center for Emerging Risk Research-ը և Google-ի նախկին ղեկավար Eric Schmidt-ը։ Հրատարակության հղած PitchBook-ի տվյալներով՝ ստարտափը գնահատվեց 461 միլիոն դոլար։

Ավանդական վենչուրային կապիտալը փուլին գրեթե չմասնակցեց՝ Anthropic-ը դիտելով որպես Դավիթ OpenAI-ի Գողիաթի դեմ։ Tallinn-ը պատմել է, որ ներդրում է կատարել այն հույսով, որ իր կարծիքը կլսվի այնտեղ, որտեղ ստեղծվում է վտանգավոր տեխնոլոգիան։

Տասնամյակի նախազգուշացումներ

54-ամյա Tallinn-ը ծնվել է Էստոնիայում և մեծացել Երկաթե վարագույրի հետևում. նրա հայրը ճարտարապետ էր, մայրը՝ կինոռեժիսոր։ Տեսական ֆիզիկայի դիպլոմից հետո նա մասնակցեց ֆայլերի փոխանակման Kazaa ծառայության ստեղծմանը, ապա Skype-ին, որը Microsoft-ը հետագայում գնեց 8,5 միլիարդ դոլարով։ 2008 թվականին ԱԲ հետազոտող Eliezer Yudkowsky-ի աշխատանքները համոզեցին նրան տեխնոլոգիայի աղետալի ներուժի մեջ։

Այժմ նա համարվում է Էստոնիայի ամենահարուստ մարդը՝ մոտ 12 միլիարդ դոլար կարողությամբ։ Իր հրապարակած նվիրատվությունների ցանկի համաձայն՝ ԱԲ-ի անվտանգության նախաձեռնությունների վրա նա ծախսել է մոտ 170 միլիոն դոլար։ Նա Cambridge Centre for the Study of Existential Risk-ի և Future of Life Institute-ի համահիմնադիրներից է։

2011 թվականին Dario Amodei-ի հետ հեռախոսազրույցի ժամանակ նա արեց մի կանխատեսում, որը հայտնի դարձավ։ Ըստ սղագրության՝ Tallinn-ն ասել է. «Գնահատում եմ, որ AGI-ի աղետից մահանալու մեր հավանականությունը երկնիշ թիվ է»։ «Ինձ թվում է՝ փորձում ենք վնասազերծել ռումբ»։

Ինչ կլինի հետո

Tallinn-ի բաժնեմասը կտրուկ կաճի, եթե Anthropic-ը ավարտի շուկայի սպասած հրապարակային տեղաբաշխումը։ Tallinn-ի Metaplanet ընկերության կառավարիչ գործընկեր Rauno Miljand-ը պատմել է հրատարակությանը, որ ընկերությունը որոշում է, թե ինչպես օգտագործել տեղաբաշխումից ստացվելիք 2 տրիլիոն դոլարը՝ ի օգուտ մարդկության։ «Եթե պարզվի, որ Anthropic-ը ձախողվել է և իջել է զրոյի, դա լավ է, քանի որ այդ դեպքում մենք երևի չհասանք ASI-ին, և մարդկությունը պարզապես գնեց իրեն լրացուցիչ տարիներ», ասել է նա։ «Սա մի տեսակ շահում են բոլորը»։