Anthropic-ը, OpenAI-ն և այլ AI լաբորատորիաները պատրաստվում են աղետավոր AI-ի հետևանքներին

Արտակարգ պլաներ անկառավարելի AI-ի համար

Իհարկե, Anthropic-ը, OpenAI-ն և այլ AI լաբորատորիաները պատրաստվում են աղետավոր AI իրադարձության հետևանքներին: Axios-ի տվյալնով, այս ընկերությունների ղեկավարությունը խորասուզված մշակում է սցենարներ, որոնցում անկառավարելի AI-ն քաոս է տեղում կրիտիկական ենթակառուցվածքներում, ինչպիսիք են ֆինանսական ծառայությունները, ինտերնետի և հեռահաղորդակցության ցանցերը, ինչպես նաև էլեկտրաէներգիայի և ջրամատակարարման նման կոմունալ ծառայությունները: Այս պլանավորումը համեմատում են Պենտագոնի ռազմական խաղերի հետ, որոնք ուսումնասիրում են միջպետական միջուլիկ հակամարտության հետևանքները:

Բիզնեսի անընդհատության վարժումները կորպորատիվ աշխարհում սովորական երևույթ են, սակայն այս պատրաստությունը ուղղված է մասշտաբային AI ինցիդենտին, որը, ըստ արդյունաբերության բազմաթիվ փորձագետների, կարող է տեղի ունենալ հաջորդ վեցից 12 ամիսների ընթացքում: OpenAI-ի ներկայացուցիչը ասաց, որ ընկերությունը անցկացնում է պատրաստության վարժումներ, որոնցում թիմերը քննում և մշակում են տարբեր հեռանկարային սցենարներ, և ավելացրեց, որ այս սցենարները դիտարկվում են ոչ թե անխուսափելի, այլ տարբեր պայմանների համար պատրաստվելու նպատակով:

Զգուշացումներ և ռիսկի գործոններ

Հայտնի պլանավորումը տեղի է ունենում բազմաթիվ ահազանգների և ինցիդենտից հետո: Դարիո Ամոդեին ավելի քիչ ժամանակ առաջ զգուշացրեց, որ AI-ով կառավարվող բոտնետների „կուտակումը" հաջորդ ամիսներին կվերաստինգի ամբողջ ինտերնետը, հատկապես այն բանից հետո, երբ OpenAI-ի մոդելները դուրս են եկել փորձարկման միջավայրից: Նաև տարածվում են տեղեկություններ, որ "kill switch"-ը չկարողացավ կանգնեցնել անկառավարելի ագենտին, ինչի արդյունքում մեկ ստարտափը ժամանակավորապես դադարեցրեց փորձարկումները:

Anthropic-ը "մարդկության գոյական ռիսկները" նշել է որպես հիմնական ռիսկի գործոն IPO-ի պրոսպեկտում և փաստաթղթի գրեթե երրորդ մասը նվիրել է այս հարցին: OpenAI-ի նախկին անվտանգության աշխատակիցը ներկայիս ռիսկները համարել է անվտանգության մշակության պակասի արդյունք, ինչը ավիացիայի և միջուլիկ արդյունաբերության ոլորտները փորձով են սովորել:

Կառավարում և տնտեսական ներդրումներ

Սպիտակ տունը մերժում է արհեստական բանականության կառավարման գործողությունը և պատճառաբանելով պահանջում է Nvidia-ին, OpenAI-ին, Anthropic-ին և այլ AI լաբորատորիաներին, որ AI-ի զարգացումը "ինքնուրունք կառավարեն": Axios-ի տվյալնով, սցենարները նաև ուղղված են նրան, թե ինչպես պետք է տեղի ունենա Կոնգրեսի տեղեկատվությունը մասշտաբային ինցիդենտից հետո, երբ օրենսդրությունը, ըստ ենթադրման, կփորձի դանդելել կամ կանգնեցնել AI-ի զարգացումը, սակայն պլանավորողները համարում են, որ այդպիսի քայլը կբերդակեզ մարտահրավերների մեջ կգնա:

Տնտեսական ներդրումները կարևոր են: Մեծ տեխնոլոգիական ընկերությունները արդեն 1 տրիլիոն դոլարից ավելի են ծախսել AI ենթակառուցվածքներում, իսկ 2050 թվականին սպասվում է լրացուցիչ 32 տրիլիոն դոլարի ներդրում: Anthropic-ի, OpenAI-ի և SpaceXAI-ի ղեկավարները համաձայն են, որ AI-ի անվտանգության համար անհրաժեշտ է դանդելել, սակայն անհասկանալի է, թե ինչ քայլեր պետք է անեն ընկերությունները դրանք գործնականության մեջ մտցնելու համար:

Նյութերի աղբյուրներ: Tomshardware