Anthropic і Accenture оцінюватимуть фронтирні ШІ-моделі «зсередини»
Anthropic і Accenture запускають «вбудоване оцінювання»: експерти Faculty працюватимуть усередині лабораторії з доступом на рівні співробітника. Обидві компанії планують інвестувати щонайменше по 1 млрд доларів за п'ять років.
Що сталося
Anthropic оголосив про партнерство з Accenture для незалежного оцінювання фронтирних ШІ-моделей. Роботою керуватиме Faculty — спеціалізований ШІ-підрозділ Accenture. Вона охоплює оцінювання моделей і ред-тимінг, перевірку вирівнювання (alignment) та тестування запобіжників.
Чому це важливо
Йдеться про «вбудоване оцінювання»: оцінювачі працюють усередині ШІ-компанії та мають доступ, порівнянний з доступом співробітника. Це дозволяє бачити, як модель формується під час тренування, відстежувати рішення про її створення та розгортання і напряму спілкуватися з командою. Так вони можуть перевіряти виконання зобов'язань із безпеки та виявляти сліпі зони.
Гроші та відкриті питання
Обидві компанії планують інвестувати щонайменше по 1 мільярду доларів протягом п'яти років. Водночас стандартів доступу для вбудованих оцінювачів і звітування поки немає. Anthropic фінансуватиме Accenture напряму, але наполягає, що згодом кошти мають надходити зі спільних або державних джерел. Партнерство неексклюзивне: тривають переговори з METR та іншими неприбутковими оцінювачами.