Anthropic випускає Mythos 5.2 і Fable 5.2 на тлі занепокоєння щодо RSI

Anthropic випустила нові версії своїх найпросунутіших моделей у понеділок, запустивши Mythos 5.2 і Fable 5.2. Компанія каже, що моделі показують покращення в таких галузях, як кодування, міркування та комп'ютерний зір, і спілкуються з користувачами чіткіше. Запуск відбувся після стороннього звіту METR, який свідчив, що лабораторія може наближатися до рекурсивного самовдосконалення.

Оновлення моделей та ціни

Anthropic знижує вартість Fable з $10 до $8 за мільйон вхідних токенів, роблячи Fable 5.2 дешевшою за її основного конкурента, GPT-6 Astra. Компанія каже, що нова версія Fable повертатиме відповіді на 30% швидше на всіх рівнях зусиль, тоді як швидше обслуговування інференсу доступне за подвійну ціну. Fable 5.2 також сумісна з політиками нульового зберігання даних через систему Enterprise Frontier Safeguards, що довго було болючим місцем для багатьох корпоративних клієнтів.

Занепокоєння щодо RSI та виклики тестування

Цей випуск є першим випуском моделі Anthropic після появи стороннього звіту від оцінювальної групи METR, який свідчив, що лабораторія може наближатися до рекурсивного самовдосконалення, або здатності моделей ШІ самостійно продовжувати навчання моделей. Звіт METR виявив, що внутрішні моделі пришвидшували прогрес ШІ Anthropic приблизно в 2 рази, хоча залишається багато невизначеностей. У примітках до випуску Anthropic зазначає значні поточні виклики в точному тестуванні можливостей моделей, кажучи, що Mythos 5.2 і Fable 5.2 кожна висловлює підозру, що їх оцінюють частіше, ніж будь-які недавні моделі компанії, що утруднює оцінку того, як вони діятимуть у реальних умовах.

Anthropic стверджує, що нова версія Mythos не має здатності діяти приховано проти свого користувача, вердикт, докладніше описаний у системній картці Mythos 5.2. Системна картка каже, що Mythos 5.2 показує сильніші приховані можливості, ніж попередні моделі Claude, у кількох оцінюваннях, особливо коли її міркування приховане від монітора, але низькі рівні абсолютної продуктивності в нових прихованих оцінюваннях підтримують твердження, що спираються на виявлення шкідливих дій у ситуаціях із високими ставками.

Використання в дослідженнях і зв'язок із квантовими обчисленнями

Fable 5.2 деякий час була доступна вибраним сторонам у попередньому випуску, і Anthropic каже, що модель уже розв'язала дві відкриті задачі з теоретичної фізики, формалізувала останню теорему Ферма та підтримала численні інші дослідницькі проєкти. Також у понеділок стартап ШІ Physical Superintelligence оголосив нове доведення гіпотези Ааронсона-Амбайніса, описане як поворотний крок у встановленні теоретичних меж для квантових обчислень. Лабораторія сказала, що результат досягнуто запуском непублічної моделі Anthropic у власній системі PSI, а Anthropic не підтвердила і не спростувала, чи була Fable 5.2 моделлю в цьому питанні.

Джерела: TechCrunch · The Verge · Блог машинного навчання AWS