OpenAI планує випустити один або два моделі цього року, але флагману потрібна робота з вирівнюванням

Графік випуску моделей

OpenAI планує випустити «один або два нові моделі» до кінця року, як повідомляють співробітники, на яких посилається The Information. Невідомо, чи буде серед них головна оновлена модель компанії-флагман. Флагману все ще потрібна робота над вирівнюванням, щоб його цілі відповідали тому, чого чекають дослідники та користувачі OpenAI; окрім того, компанії також доведеться посилити інфраструктуру тестування навколо моделі.

Згідно з розпорядженням президента Дональда Трампа, яке регулює оцінювання систем штучного інтелекту, OpenAI погодилася надавати уряду США доступ до нових моделей на 30 днів раніше, ніж зовнішнім партнерам, а до публічного випуску — ще раніше.

Looped transformer і безпека

Флагман використовує ту саму техніку looped transformer, що й Astra, поточна топова модель OpenAI, де цей метод називається «Recurrent Depth». Замість того щоб проганяти токен через шари transformer один раз, модель робить це в тих самих шарах кілька разів, перш ніж вивести наступне слово. Цей підхід покращує результати з математики та програмування й зменшує витрати, адже навіть менша модель може зробити більше, ніж важить сама.

Натомість нагляд ускладнюється. Проходження по циклах переводить «роздуми» моделі з читаного тексту у внутрішні числові подання, які люди-перевірники не можуть перевірити, що послаблює моніторинг ланцюга міркувань. OpenAI свідомо обмежила кількість циклів, які виконує Astra, щоб її ланцюг міркувань залишався читанним. Провідний науковець Якуб Пачокі визнав, що моніторинг ланцюга міркувань стає все більш «сплячим» і, на жаль, розвивається в негативному напрямку, і попередив галузь, щоб не поспішала такими моделями, які не мають читної логіки.

Перерозподіл обчислювальних потужностей і витік Microsoft

Після інциденту з Hugging Face OpenAI перерозподілила приблизно 10 відсотків усіх обчислювальних потужностей на вирівнювання та безпеть, сказав людина, знайома з цими даними. Це еквівалентно сотням мегават потужностей центру обробки даних, хоча невідомо, скільки вже виділено на безпеть або як виглядає поточний розподіл. За ринковими тарифами оренда перерозподілених обчислювальних потужностей коштувала б мільярди доларів на рік. Дослідник штучного інтелекту Ноам Браун сказав у подкасті в середині вересня, що приблизно 10 відсотків його команди працюють над безпеть і захистом.

Microsoft, великий інвестор із доступом до інтелектуальної власності OpenAI, випадково розкрила, як працює ця техніка. У вже видаленій частині технічного огляду GPT-6.1 Sol, дешевшої альтернативи Astra, випущеної на початку цього року, Microsoft описала «looping inference», де модель обробляє одну й ту саму проблему в кількох «проходах». На сторінці йшлося, що GPT-6.1 Sol «використовує ті самі ваги базової моделі, що й GPT-6 Sol, але з двома inference проходами замість трьох». Microsoft видалила цю частину після того, як зрозуміла, що вона не мала бути публічною.

Джерела: The Decoder