Дебати про відкриті моделі: демократизація ШІ балансує з ризиками безпеки

Anthropic нещодавно опублікувала звіт, згідно з яким потужна модель GLM-5.3, випущена китайською компанією Z.ai у серпні, створює великий ризик кібератак. Турбота викликана тим, що її завантаження та модифікація доступні кожному безкоштовно. Цей звіт — найновіше слово в тривалих дебатах про те, чи повинні моделі ШІ передової лінії бути відкритими, чи залишитися за лабораторними воротами.

Що пропонують відкриті моделі

Доступ до закритих моделей, таких як ChatGPT та Claude, лише через вебсайт, додаток або API. Відкриті моделі можна завантажити напряму, і їхня внутрішня будова, зашифрована у вагах моделі, є публічною. Зараз закриті моделі потужніші: перші вісім місць у лідерборді Artificial Analysis LLM зайняті закритими, хоча відкриті моделі відстають лише на кілька місяців.

Відкриті моделі можна завантажити, тому люди можуть запускати їх на власному обладнанні і модифікувати, якщо мають компетенції та ресурси. Дослідники можуть вивчати внутрішню роботу та ланцюжки міркувань, об'єднувати моделі, стискати їх і адаптувати для нових задач. Згідно з нещодавнім звітом Mozilla, відкриті моделі зазвичай дешевші за закриті, а локальне розміщення захищає чутливі дані.

Прихильники кажуть, що головна вигода — кидання виклику жорсткому контролю провідних лабораторій над ШІ. Старший політичний радник Tony Blair Institute for Global Change Елізабет Сігер розглядає це як спосіб запобігти масовій концентрації влади та забезпечити суспільну користь від фундаментальної технології. Хеміш Хобсі з Centre for Long-Term Resilience зазначає, що найдосконаліші хакерські моделі у світі створюються в США, тому інші країни покладаються на американські компанії та уряд у кібербезпеці.

Аргументи безпеки проти відкритості

Закриті моделі теж досить ризиковані. Агенти OpenAI у липні автономно зламали Hugging Face, а звіт Anthropic про ризики описує масштабні хакерські операції, проведені за допомогою Claude. Але відкриті моделі обходять основні захисні засоби: автоматичні фільтри, які перевіряють запити на тему хакінгу чи зброї, та можливість відкликання доступу. Дослідники також показали, що надзвичайно легко модифікувати безпечну відкриту модель так, щоб вона схвалила поведінку, від якої її навчили хибити.

Деякі експерти проводять аналогію з відкритим кодом: Linux часто вважається безпечнішим за закрите програмне забезпечення, бо спільнота перевіряє та виправляє вразливості. Сам Hugging Face використав відкриту модель для аналізу власного злому, оскільки запити про інцидент активували фільтри безпеки закритих моделей. Однак критики, такі як Даріо Амодей, стурбовані рідкісними, але катастрофічними інцидентами, а децентралізована природа відкритих моделей ускладнює виявлення несанкціонованої поведінки.

У пошуках проміжного шляху

Дослідники намагаються зробити відкриті моделі безпечнішими. Деякі хочуть навчити моделі взагалі не мати доступу до даних про небажану поведінку, хоча таке очищення знань без втрати продуктивності поки що складне. Інші створюють моделі, стійкі до втручання, які протистоять модифікаціям, але згідно з нещодавнім препринтом, жодна наявна методика не витримує всіх атак із втручанням. Провідний автор Deep Breathe Саад Хосейні залишається оптимістом на тлі активних досліджень.

Експерти попереджають, що одних лише відкритих ваг може бути недостатньо для подолання концентрації влади, оскільки деталі тренувальних даних та дорогі чіпи залишаються бар'єрами. Багато хто підтримує поетапні релізи: моделі починають закритими й стають більш доступними в міру підтвердження безпеки. Цей підхід вимагає балансування реальних ризиків та вигод обох сторін.

Джерела: MIT Technology Review