Назад
GPT-6 Sol і GPT-6 Luna тепер доступні на Amazon Bedrock
SiTech AI Team3 წთ. საკითხავი

GPT-6 Sol і GPT-6 Luna тепер доступні на Amazon Bedrock

Моделі GPT-6 Sol і GPT-6 Luna від OpenAI стали загальнодоступними на Amazon Bedrock: ціни API нижчі за попередників GPT-5.6, а на Bedrock підтримується явне кешування підказок.

Моделі GPT-6 Sol і GPT-6 Luna від OpenAI тепер загальнодоступні на Amazon Bedrock — про це AWS повідомила в блозі. Так родина GPT-6 на платформі розширюється після GPT-6 Astra, представленої раніше для найскладніших проєктів.

Дві моделі — два призначення

За словами AWS, ці моделі закривають різні точки на шкалі «інтелект — ефективність». GPT-6 Sol орієнтована на складні завдання, які повторюються протягом циклу розробки: реалізація функцій, налагодження, рефакторинг і перевірка коду, аналіз даних та виконання багатокрокових процесів у різних інструментах і застосунках. GPT-6 Luna створена для вузьких повторюваних задач із великим обсягом: вилучення інформації з великих колекцій документів, підсумовування матеріалів, класифікація вхідних даних і відповіді на конкретні запитання для багатьох користувачів чи застосунків.

AWS зазначає, що ціни API для обох моделей суттєво нижчі, ніж у попередників GPT-5.6, — саме це компанія називає головним важелем для регулярного використання потужніших моделей у продакшені.

Точність і вартість одного результату

У внутрішньому оцінюванні фактологічної точності OpenAI виявила, що GPT-6 Sol припускалася приблизно вдвічі менше фактичних помилок, ніж GPT-5.6 Sol. Компанія також наголошує на зрозумілішому звітуванні про те, що модель змінила, що перевірила і що не змогла підтвердити: за версією AWS, це важливо для довгих завдань, де командам треба бачити, де ще потрібне людське рішення. Для GPT-6 Luna оцінювання OpenAI показують покращену фактичну надійність, а рівень reasoning можна регулювати для кожного запиту, зважуючи якість, швидкість і витрати.

Поєднання моделей і кешування підказок

Оскільки одному застосунку на різних етапах потрібен різний рівень інтелекту, AWS описує маршрутизацію як практичний підхід: Luna — для класифікації вхідних запитів, Sol — для розбору складних випадків, Astra — коли додаткова глибина міркувань може змінити рішення. Щоб така схема була економною, обидві нові моделі підтримують явне кешування підказок на Bedrock: розробники можуть позначати повторно використовуваний вміст — інструкції репозиторію, документи політик, фіксовану схему вилучення — щоб наступні запити обробляли переважно новий вхідний текст.

Керування та обробка даних

З боку контролю AWS наводить керування доступом через політики IAM, аудит кожного виклику в CloudTrail, VPC-ендпоінти на базі AWS PrivateLink та інференс на апаратно ізольованій інфраструктурі без доступу операторів: навіть оператори AWS не можуть бачити підказки чи відповіді під час інференсу. Компанія каже, що дані інференсу не використовуються для навчання моделей і що для цих моделей не потрібно погоджуватися на обмін даними з OpenAI; трафік, позначений класифікатором автоматичного виявлення зловживань, AWS зберігає до 30 днів, а нульове збереження даних можна запросити через команду облікового запису AWS. Обидві моделі доступні в консолі Bedrock і через підтримувані API Bedrock.

SSiTech

SiTech — веброзробка з підтримкою AI

Створюємо швидкі та сучасні сайти й інтегруємо AI у бізнес-процеси. Маєте проєкт чи запитання? Із задоволенням допоможемо.