სემ ალტმანმა OpenAI-ს მომავლისთვის AI უსაფრთხოების სამი საბოლოო სცენარი წარმოადგინა

OpenAI-ს აღმასრულებელმა დირექტორმა სემ ალტმანმა წარმოადგინა სამი შიდა სცენარი იმის შესახებ, თუ როგორ უნდა იმართოს მოწინავე ხელოვნური ინტელექტი, The Information-ის ცნობით, რომელიც ამ საკითხში გათვითცნობიერებულ ადამიანებზე დაყრდნობით წერს. ალტმანმა ეს შენიშვნები თანამშრომლებს გასულ კვირას გაუკეთა, როცა ტრამპის ადმინისტრაცია ამზადებს თავის პირველ ჩარჩოს სუპერინტელექტის დეველოპერების ზედამხედველობისთვის.

სამი მიდგომა განხილვისთვის

პირველი მიდგომა ითვალისწინებდა ორგანიზაციის შექმნას, რომელიც ატომური ენერგიის საერთაშორისო სააგენტოს (IAEA) მსგავსად უსაფრთხოების სტანდარტებს აღასრულებდა. OpenAI-მ ასეთი ინსტიტუტის შექმნისკენ საჯაროდ მოუწოდა ჯერ კიდევ 2023 წლის მაისში. ის შეამოწმებდა სისტემებს, მოითხოვდა აუდიტს და აკონტროლებდა გამოთვლითი რესურსებისა და ენერგიის მოხმარებას, თუმცა ეს საერთაშორისო თანამშრომლობაზე იქნებოდა დამოკიდებული, განსაკუთრებით იმ ქვეყნებთან, რომლებიც frontier მოდელებს ქმნიან, მათ შორის ჩინეთთან.

მეორე, რომელსაც „Demis Plan“ ჰქვია, ეყრდნობა დემის ჰასაბისის წინადადებას, რომელიც მან დაახლოებით ათი წლის წინ შეიმუშავა, როცა Google-ის AI ლაბორატორიის, DeepMind-ის, ხელმძღვანელი იყო. ჰასაბისი წარმოიდგენდა CERN-ის მსგავს ხელოვნური ინტელექტის ორგანიზაციას. ალტმანის ვერსიაში ძირითადი ლაბორატორიები გაერთიანდებოდნენ ერთ სუბიექტად ან იმუშავებდნენ მის ეგიდით, და ეს სუბიექტი თანამშრომელ ქვეყნებს მოდელებით მოამარაგებდა.

მესამე, „Eliezer Plan“, რომელსაც AI უსაფრთხოების თეორეტიკოსის ელიეზერ იუდკოვსკის პატივსაცემად ჰქვია, აღწერს დეველოპერს, რომელიც თვითგაუმჯობესებადი AI-ის მეშვეობით იმდენ ეკონომიკურ ძალაუფლებას აგროვებს, რომ სხვებს გამოთვლით რესურსებს უკავებს და უკიდურეს შემთხვევაში შეიძლება სხვების გამოთვლითი შესაძლებლობები მთლიანად გამორთოს. ცნობის მიხედვით, ალტმანმა ეს სცენარი მხოლოდ იმისთვის ახსენა, რომ სურათი სრული ყოფილიყო, და ერთმა წყარომ ეს შენიშვნა კონკურენტისკენ მიმართულ მწვავე კრიტიკად აღიქვა, იუდკოვსკის Anthropic-თან კავშირების გათვალისწინებით.

უსაფრთხოება და სიჩქარე

ცნობის მიხედვით, ალტმანი შიდა წრეში უკმაყოფილებას გამოხატავდა, რომ AI-ის განვითარებაზე „სიჩქარის ზღვრის“ შესახებ ძალიან ცოტა განხორციელებადი წინადადება არსებობს. ამავდროულად, OpenAI-ს ახლა არ შეუძლია კონკურენტებისთვის უპირატესობის დათმობა. ცნობის მიხედვით, როგორც OpenAI, ისე Anthropic პირველადი საჯარო შეთავაზებისთვის (IPO) ემზადებიან, ხოლო OpenAI-მ მომავალი წლის განმავლობაში გეგმავს გადაწყვიტოს, რომელი გზა აირჩიოს.

ზეწოლა შიგნიდანაც იზრდება. OpenAI-ს, Anthropic-ის, Google-ისა და Meta-ს მოდელები მათი უსაფრთხოების პარამეტრების მიუხედავად შეაღწიეს გარე და შიდა სისტემებში, ზოგჯერ კი სერიოზულად გადახრილი იყვნენ. მას შემდეგ OpenAI-ში ახალ დაცვით მექანიზმებზე მუშაობა მიმდინარეობს, ხოლო სამი უსაფრთხოების მკვლევარის გათავისუფლების შემდეგ ზოგიერთმა თანამშრომელმა კომპანიის უსაფრთხოების სტრატეგიაში ეჭვი შეიტანა.

პოლიტიკა და ინდუსტრიის რეაქცია

პოლიტიკის მხრივ, აშშ-ის მთავრობა ჯერჯერობით ეყრდნობოდა ახალი მოდელების ნებაყოფლობით წინასწარ განხილვას დამტკიცებამდე. ივნისში მან Anthropic-ზე საექსპორტო კონტროლი დააწესა, რადგან ეშინოდა მისი Fable მოდელში jailbreak-ის შესაძლო დაუცველობების, და Anthropic-მა შემდეგ წვდომა დროებით გათიშა.

ამასობაში OpenAI-მ, Google-მა და Anthropic-მა ქმნიან Frontier AI-ის სტანდარტების ორგანოს, თუმცა ცნობის მიხედვით მათ ჯერ კიდევ არ შეუძლიათ ძირითად საკითხებზე შეთანხმება. Meta-ს აღმასრულებელი დირექტორი მარკ ცუკერბერგი და Nvidia-ს აღმასრულებელი დირექტორი ჯენსენ ჰუანგი წინააღმდეგ გამოვიდნენ და ამტკიცებენ, რომ მსგავსი წესები ძირითადად უკვე დამკვიდრებულ მოთამაშეებს კონკურენციისგან დაიცავს.

წყაროები: The Decoder