Anthropic-ი იურიდიულ ფირმებთან AI-მოლაპარაკების აგენტების სამართლიან ნორმებზე მუშაობს

Anthropic-ი AI-გარიგებებისთვის იურიდიულ ხელმძღვანელობას ეძებს

Financial Times-ის ცნობით, Anthropic-ი იურიდიულ ფირმებთან კონსულტაციას გადის, რათა შეიმუშაოს სამართლიანი მოლაპარაკების ნორმები AI-აგენტებისთვის, რომლებიც მომხმარებლების სახელით იმოქმედებენ. მიზანია წესების დადგენა იმ სისტემებისთვის, რომლებსაც შეუძლიათ ფასებზე ვაჭრობა, საჩივრების მოგვარება ან საკონტრაქტო შეთავაზებების გაუმჯობესება. კომპანია ამბობს, რომ ჯერ კიდევ არკვევს, როგორ შეეძლებათ AI-აგენტებს მომხმარებლების სახელით მოლაპარაკება.

მოლაპარაკების უნარები უთანასწორობის საფრთხეს აჩენს

Anthropic-მა ექსპერიმენტებში უკვე აჩვენა, რომ უფრო ძლიერი მოდელები უკეთეს გარიგებებს დებენ. ეს აღმოჩენა შეიძლება სოციალური უთანასწორობის ზრდის საფუძველი გახდეს, თუ მოლაპარაკების მოწინავე უნარი მხოლოდ უფრო ძლიერ სისტემებში თავს მოიყრის.

ეს საქმიანობა უფრო ფართო დაქირავების კამპანიის ნაწილია. Anthropic-ი Conceptual Reasoning Fellows-ის პროგრამაზე იწვევს იურისტებს, რომლებიც ოთხი თვის განმავლობაში შეამოწმებენ Claude-ს სამართალში, ფილოსოფიაში, კოგნიტურ მეცნიერებაში, ეკონომიკასა და პოლიტიკურ მეცნიერებაში განსჯაზე დამოკიდებულ კითხვებზე. სტიპენდიანტებს 100 000-დან 167 000 დოლარამდე უხდიან.

მონაცემთა პრობლემა ჰუმანიტარულ მეცნიერებებში

ეს ძალისხმევა მონაცემთა პრობლემიდან მოდის. მათემატიკასა და კოდში AI მოდელების გაუმჯობესება შედარებით ადვილია, რადგან დამოწმებადი მონაცემები ბევრია ან მათი გენერირება ადვილია. ჰუმანიტარულ მეცნიერებებში ასეთი მონაცემები არ არსებობს, ნაწილობრივ იმიტომ, რომ სწორი და არასწორი პასუხები იშვიათად არის ცალსახა. Anthropic-ი ამბობს, რომ მას სჭირდება ექსპერტები, რომლებსაც შეუძლიათ შექმნან ტესტური შემთხვევები და შეფასებები, რათა Claude-ი ამ სფეროებში უფრო ძლიერი გახდეს.

ჯასტინ კერლი, Anthropic-ის ტექნიკური პერსონალის წევრი, რომელიც სამართალს, ინსტიტუტებსა და AI-ს იკვლევს, ამტკიცებს, რომ სამართალში „ხარისხის განსაზღვრა ძალიან რთულია“.

წყაროები: The Decoder · Techmeme