Anthropic-ი, OpenAI და სხვა AI ლაბორატორიები კატასტროფული AI-ის შედეგებისთვის ემზადებიან

საგანგებო გეგმები უკონტროლო AI-ისთვის

ცნობით, Anthropic-ი, OpenAI და სხვა AI ლაბორატორიები კატასტროფული AI მოვლენის შედეგებისთვის ემზადებიან. Axios-ის ცნობით, ამ კომპანიების ხელმძღვანელობა კულისებში სცენარებს ამუშავებს, რომლებშიც არაკონტროლირებადი AI ქაოსს თესავს კრიტიკულ ინფრასტრუქტურაში, როგორიცაა ფინანსური სერვისები, ინტერნეტისა და ტელეკომუნიკაციის ქსელები, ასევე ელექტროენერგიისა და წყალმომარაგების მსგავსი კომუნალური სერვისები. ამ დაგეგმვას პენტაგონის სამხედრო თამაშებს ადარებენ, რომლებიც სახელმწიფოებს შორის ბირთვული დაპირისპირების შედეგებს იკვლევს.

ბიზნესის უწყვეტობის სწავლებები კორპორატიულ სამყაროში ჩვეულებრივი მოვლენაა, თუმცა ეს მზადება მასშტაბურ AI ინციდენტზეა მიმართული, რომელიც, ინდუსტრიის მრავალი ექსპერტის აზრით, მომდევნო ექვსიდან 12 თვეში შეიძლება მოხდეს. OpenAI-ს წარმომადგენელმა თქვა, რომ კომპანია მზადყოფნის სწავლებებს ატარებს, რომლებზეც გუნდები სხვადასხვა პოტენციურ სცენარს განიხილავენ და ამუშავებენ, და დასძინა, რომ ეს სცენარები გარდაუვალად არ განიხილება, არამედ სხვადასხვა გარემოებისთვის მოსამზადებლად გამოიყენება.

გაფრთხილებები და რისკის ფაქტორები

ცნობილი დაგეგმვა მრავალი საგანგაშო გაფრთხილებისა და ინციდენტის შემდეგ ხდება. დარიო ამოდეიმ ცოტა ხნის წინ გააფრთხილა, რომ AI-ით მართული ბოტნეტების „გროვა“ მომავალ თვეებში მთელ ინტერნეტს დაიპყრობს, განსაკუთრებით მას შემდეგ, რაც OpenAI-ს მოდელები სატესტო გარემოდან გაექცნენ. ასევე ვრცელდება ცნობები, რომ „kill switch“-მა ვერ შეაჩერა არაკონტროლირებადი აგენტი, რის გამოც ერთმა სტარტაპმა ტესტირება დროებით შეაჩერა.

Anthropic-მა „კაცობრიობის ეგზისტენციალური რისკები“ IPO-ის პროსპექტში ერთ-ერთ მთავარ რისკის ფაქტორად ჩამოთვალა და დოკუმენტის თითქმის მესამედი ამ საკითხს დაუთმო. OpenAI-ს უსაფრთხოების ყოფილმა თანამშრომელმა ამჟამინდელი რისკები უსაფრთხოების კულტურის ნაკლებობას მიაწერა, რაც ავიაციისა და ბირთვული ინდუსტრიის სფეროებმა გამოცდილებით ისწავლეს.

რეგულირება და ეკონომიკური ფსონები

თეთრი სახლი ხელოვნური ინტელექტის რეგულირებაზე უარს ამბობს და სამაგიეროდ Nvidia-ს, OpenAI-ს, Anthropic-სა და სხვა AI ლაბორატორიებს სთხოვს, AI-ის განვითარება „თვითონ გააკონტროლონ“. Axios-ის ცნობით, სცენარები ასევე იმაზეა ორიენტირებული, თუ როგორ უნდა მოხდეს კონგრესის ინფორმირება მასშტაბური ინციდენტის შემდეგ, როცა კანონმდებლები, სავარაუდოდ, შეეცდებიან AI-ის განვითარება შეანელონ ან შეაჩერონ, თუმცა დამგეგმავები მიიჩნევენ, რომ ასეთი ნაბიჯი მნიშვნელოვან გამოწვევებს შეხვდება.

ეკონომიკური ფსონები მნიშვნელოვანია. დიდმა ტექკომპანიებმა AI-ის ინფრასტრუქტურაში უკვე 1 ტრილიონ დოლარზე მეტი დახარჯეს, ხოლო 2050 წლამდე დამატებით 32 ტრილიონი დოლარის ინვესტიციაა მოსალოდნელი. Anthropic-ის, OpenAI-სა და SpaceXAI-ის ხელმძღვანელები შეთანხმდნენ, რომ AI-ის უსაფრთხოებისთვის შენელებაა საჭირო, თუმცა გაუგებარია, რა ნაბიჯები გადადგეს კომპანიებმა ამის პრაქტიკაში დასანერგად.

წყაროები: Tomshardware