Ґері Тан: американським відкритим лабораторіям варто дозволити дистиляцію

Ґері Тан, виконавчий директор Y Combinator, вважає, що регулятори не повинні втручатися в дистиляцію — практику, за якої модель тренують, інтенсивно запитуючи іншу модель, щоб з'ясувати, як вона працює й міркує. «Я не робив би нічого, — сказав він CNBC в інтерв'ю цього тижня. — Можна стверджувати, що має існувати американський режим дистиляції».

У розмові з TechCrunch Тан уточнив: він хоче, щоб менші американські лабораторії відкритої ваги могли вільно застосовувати ті самі техніки тренування до фронтир-моделей США, аби Сполучені Штати мали надійний набір відкритих варіантів, які не є китайськими.

Скарга Anthropic

Ці слова пролунали посеред публічної суперечки. Цього тижня Anthropic опублікувала другий звіт про загрози, у якому стверджує, що китайські лабораторії здійснюють «незаконні дистиляційні атаки» — приховують свою особу, щоб дистилювати без дозволу, і покладаються на шахрайство та вкрадені облікові дані. Виконавчий директор Anthropic Даріо Амодей раніше публічно закликав американських регуляторів обмежити дистиляцію.

Позиція Тана помітна, адже він очолює найвідоміший стартап-акселератор Кремнієвої долини, і вона суперечить цьому заклику. Він не доводить, що американські лабораторії мають красти облікові дані: його думка — вони мають право заходити у парадні двері.

Два аргументи

Його аргументація подвійна. По-перше, він вважає, що AI-лабораторіям не личить диктувати, що клієнти можуть робити з інформацією, яку їхні моделі надають. По-друге, він зауважує, що власницькі лабораторії не питали дозволу, коли вигрібали стільки людських знань, скільки могли, щоб навчити власні моделі, і поглинали захищений авторським правом матеріал без згоди правовласників.

«Контроль над тим, що роблять користувачі та клієнти з API-викликами до закритих моделей, відчувається обмежувальним», — сказав він TechCrunch, додавши, що держава має роль у тому, щоб зробити нормою думку, ніби доступ до інтелекту, натренованого на широких публічних даних, «сам має бути радше формою суспільного блага, ніж чимось замкненим за обмежувальними умовами обслуговування».

Кошмар — одна компанія

Тан, сам завзятий користувач AI, каже, що хоче балансу між лабораторіями відкритої ваги та фронтир-лабораторіями. «Вони на фронтирі й рухають його вперед. Ми хочемо, щоб це можна було фінансувати і щоб це й надалі було чудовою бізнес-моделлю», — сказав він CNBC, тоді як відкриті моделі «дають людям свободу й доступ».

Для нього справжній сценарій doom інший: уся міць фронтирного AI опиняється в одного закритого постачальника. «Сценарій жаху, сценарій doom для AI — це коли залишається лише одна компанія, — сказав він. — У неї найкращий доступ до капіталу. У неї найкращі AI-дослідники. Вона виривається вперед, і раптом є одна монолітна компанія. І це було б погано».