Anthropic працює з юридичними фірмами над справедливими нормами для AI-агентів, що ведуть переговори

Anthropic шукає юридичні орієнтири для AI-угод

За даними Financial Times, Anthropic консультується з юридичними фірмами, щоб розробити справедливі норми переговорів для AI-агентів, які діють від імені користувачів. Метою є встановлення правил для систем, які можуть торгуватися про ціни, вирішувати суперечки або покращувати контрактні пропозиції. Компанія заявляє, що ще визначає, як AI-агенти можуть вести переговори від імені користувачів.

Здатність до переговорів створює загрозу нерівності

Anthropic вже показала в експериментах, що потужніші моделі укладають кращі угоди. Це відкриття може стати підґрунтям для зростання соціальної нерівності, якщо передові навички переговорів зосереджаться лише в потужніших системах.

Ця діяльність є частиною більш широкої кампанії з найму. Anthropic запрошує юристів у програму Conceptual Reasoning Fellows, які протягом чотирьох місяців перевірятимуть Claude на питання, що потребують оцінки, у праві, філософії, когнітивних науках, економіці та політології. Стипендіатам виплачують від 100 000 до 167 000 доларів.

Проблема даних у гуманітарних науках

Це зумовлено проблемою даних. У математиці та коді покращувати AI-моделі порівняно легко, бо є багато перевірених даних або їх легко генерувати. У гуманітарних науках таких даних немає, частково через те, що правильні та неправильні відповіді рідко бувають очевидними. Anthropic заявляє, що потребує експертів, які можуть створювати тестові сценарії та оцінки, щоб Claude став сильнішим у цих сферах.

Джастін Керл, член технічного персоналу Anthropic, який досліджує право, інститути та AI, стверджує, що в праві „визначення якості, як відомо, дуже складне“.

Джерела: The Decoder · Techmeme