Facebook-ის თანადამფუძნებელი AI-ის ზედამხედველობის ოფისს შექმნას სთავაზობს

Facebook-ის თანადამფუძნებელი Chris Hughes AI კომპანიებისთვის ბანკების მსგავსი ზედამხედველობის დაწესებას ითხოვს. Financial Times-ში 23 სექტემბერს გამოქვეყნებულ კოლონკაში ის AI-ის ზედამხედველობის ოფისის (Office of AI Supervision) შექმნას სთავაზობს: სახელმწიფო ზედამხედველების გუნდები ფრონტიულ AI ლაბორატორიებში უნდა ჩაერთონ, თავად ზედამხედველები კი სამწლიანი ვადით დაინიშნონ, რომ მათ მიერ კონტროლირებად კომპანიებთან ზედმეტად არ დაუახლოვდნენ (ე.წ. regulatory capture) — ასე გადმოსცემს Techmeme FT-ის ტექსტის შინაარსს.

რას ითვალისწინებს წინადადება

Hughes-მა Facebook 2007 წელს დატოვა; ის არის წიგნის „Marketcrafters: The 100-Year Struggle to Shape the American Economy“ ავტორი და Brookings Institution-ის არარეზიდენტი მკვლევარი. მისი არგუმენტით, AI და საბანკო სექტორი ერთმანეთს ჰგავს: ორივე სწრაფად იცვლება და მთელ ეკონომიკას აღწევს, ამიტომ ჩინოვნიკებმა ინოვაციის სარგებელი მის მიერ შექმნილ რისკებთან ერთად უნდა აწონონ. ლაბორატორიების გარედან შემოწმების ნაცვლად, მისი ოფისი სახელმწიფო ზედამხედველებს კომპანიების შიგნით დააბინავებდა — ფიქსირებული სამწლიანი ვადით.

რომელ არგუმენტს ეყრდნობა

კოლონკა ეხმიანება Anthropic-ის აღმასრულებელი დირექტორის Dario Amodei-ს სექტემბრის ესეს „We Must Pace the Frontier“, სადაც ის ამტკიცებდა, რომ დამოუკიდებელ შემფასებლებს AI კომპანიების შიგნით საკუთარი მაგიდები უნდა ჰქონდეთ. Amodei-ს თქმით, Anthropic ცალმხრივად მისცემს გარე შემფასებლებს შიდა რისკების გუნდის მსგავს წვდომას — მაგიდები, ბეჯები და კომპანიის ლეპტოპები — და მათ უფლებას, დასკვნები კომპანიის რედაქტირების გარეშე, მხოლოდ მცირე გამონაკლისებით გამოაქვეყნონ. მან ეს მოწყობა ბანკების ზედამხედველობას შეადარა, სადაც რეგულატორები ზოგჯერ თანამშრომლების გვერდით სხედან, და მთავრობებს მოუწოდა, სხვა ფრონტიული ლაბორატორიებიც აიძულონ იგივე. OpenAI-ის Sam Altman-მა განაცხადა, რომ მისი კომპანიაც ასე მოიქცევა.

რატომ აქვს მნიშვნელობა

საბანკო ზედამხედველს შეუძლია დაწესებულებას პრაქტიკის შეწყვეტა დაავალოს, მისი ზრდა შეზღუდოს ან, უკიდურეს შემთხვევაში, დახუროს იგი. AI ლაბორატორიებისთვის შემოთავაზებულ შემფასებლებს კი ჯერჯერობით მხოლოდ გამოძიება და ანგარიშის გამოქვეყნება შეეძლებათ, მაგრამ არა მოდელის გაწვრთნის ან გამოშვების შეჩერება — სწორედ ამ ხარვეზს გამოყოფენ ნებაყოფლობითი ზედამხედველობის კრიტიკოსები. Hughes-ის წინადადება უფრო შორს მიდის: ლაბორატორიებში გარე კონტრაქტორების ნაცვლად სახელმწიფო გუნდები უნდა ჩასხდნენ, თანაც შეზღუდული ვადით. კოლონკა მაშინ ქვეყნდება, როცა მთავრობები სწორედ ამ კითხვაზე კამათობენ: 22 სექტემბერს გაეროში სიტყვით გამოსვლისას აშშ-ის პრეზიდენტმა Donald Trump-მა AI-ის რისკების მართვის საერთაშორისო პაქტი უარყო და თქვა, რომ „ხელოვნური ინტელექტი“ „super intelligence“-ად უნდა გადაერქვას — ასე იუწყება Techmeme.