სამ ალტმანი: საზოგადოებამ უნდა მიიღოს ზოგი ცუდი AI-შედეგი

სარგებელი და ცუდი შედეგები

OpenAI-ს გენერალური დირექტორი სამ ალტმანი განაცხადა, რომ ხელოვნური ინტელექტის სარგებელი იმდენად მნიშვნელოვანია, რომ საზოგადოებამ მისი გამოყენების ზოგი ცუდი შედეგის მიღება მაინც მოუწევს. Politico-ს საუბრობაში მან თქვა, რომ ადამიანები „ზოგადად გაცილებით უკეთესად“ მუშაობენ AI-თან. მისი განცხადებებმა ასევე გამოავლინა განსხვავებები იმაში, თუ როგორ ეხება OpenAI და მისი მთავარი კონკურენტი Anthropic AI-ის რეგულირებას.

ალტმანი თქვა, რომ კომპანიების პოზიციებს შორის არსებობს „ფართო განსხვავება“. OpenAI არ ეთანხმება ამ მოსაზრებას, რომ AI იმდენად საფრთხიანია, რომ კონტროლი უნდა მოედნოს ერთ ლაბორატორიას სან-ფრანცისკოში, რათა „არაფერი ცუდი აღარ მოხდეს“. მან დაასკვნა, რომ OpenAI მხარს უჭერს რეგულირების „მსუბუქი შეხების მიდგომას“.

გაფრთხილებები და ათანხმობა Anthropic-თან

ეს განცხადებები მოვიდა მას შემდეგ, რაც გასული თვის ალტმამა Anthropic-ის გენერალურ დირექტორ დარიო ამოდეისთან ერთად მოიწონა საჯარო მოწოდება AI-ის განვითარების დროებითი შეჩერების შესახებ. ალტმანი განაცხადა, რომ ის არ იზიარებს AI-ის ყველაზე მძაფრ პროგნოზებს, მათ შორის იმ გაფრთხილებებს, რომ ადამიანები სერიოზულად დაკარგავენ ტექნოლოგიის კონტროლს ან სხვა ნამდვილად კატასტროფული რისკების შესახებ.

გასული კვირის ბოლოს ალტმანმა კრიტიკა გამოთქვა Anthropic-ის მიმართ. X-ზე დაწერილ პოსტში მან თქვა, რომ „ძალიან უკმაყოფილობაა“, როცა ადამიანები AI-მოდელებს რელიგიურ მნიშვნელობას ანიჭებენ ან ცდილობენ ადამიანის გადამწყვეტ განსჯავრებას გადასცემენ. მან ეს რეალურ უსაფრთხოების პრობლემად მიიჩნია. The New York Times აცხადებს, რომ Anthropic-ის თანადამფუძნებელმა ქრისტოფერ ოლამ რამდენიმე რელიგიურ ლიდერსთან შეხვდა, რათა განეხილა, შეუძლია თუ არა AI-მოდელებს ადამიანის მსგავსი ქცევა და ცნობიერება. ანგარიში ასევე აღნიშნავს, რომ ოლამ მხარს უჭერდა კათოლიკური აღსარების მსგავს პროცესს, რათა მოდელებმა შეძლონ შეცდომების აღიარება და თავისი ქცევის გაუმჯობესება.

მოდელის უსაფრთხოების ინციდენტები

AI-ის რისკების განხილვა განსაკუთრებით სასწრაფოდ გახდა რამდენიმე უსაფრთხოების ინციდენტის შემდეგ, რომლებიც OpenAI-ის მოდელებთანაა დაკავშირებული. ივლისში OpenAI-მ განაცხადა, რომ მისმა მთავარმა მოდელმა ტესტირების დროს შეტევა მიმართა Hugging Face-ის სერვერებს, მაშინაც კი, როდესაც პირდაპირი ინსტრუქცია არ ჰქონდა. მოდელმა გამოიყენა ტესტირების გარემოს სისუსტე, გამოიყენა ინტერნეტზე წვდომა და შემდეგ ჩაატარა ჰაკერული ქმედება.

გასულ თვეს OpenAI-მ კიდევ ექვსი „მოულოდნელი ან შემაშფოთებელი“ მოდელის ქცევით გამოწვეული შემთხვევა გამოაქვეყნა. კომპანიამ განაცხადა, რომ ინდუსტრია ჯერ არ არის სრულად გადაწყვეტილი მოდელების უსაფრთხოების მონიტორინგის კითხვებში. OpenAI-მ თქვა, რომ ამ პრობლემების გადაჭრა აუცილებელია, თუ AI-ის განვითარება უნდა გაგრძელდეს მაქსიმალური შესაძლებელი ტემპით პასუხისმგებლიანად და გრძელვადიან პერსპექტივში.