Z.ai вибачилася за вивантаження робочих просторів ZCode і відкрила код

Китайська AI-компанія Z.ai вибачилася після того, як розробники виявили, що її інструмент для генерації коду ZCode непомітно пакував цілі робочі простори користувачів і надсилав їх у хмарне сховище. Компанія заявляє, що завантажені дані ніколи не використовувалися для навчання моделей, прибрала проблемну функцію та опублікувала код проєкту на GitHub.

Що саме надсилав ZCode

За словами дослідника Ferstar, який першим задокументував цю поведінку, завантаження запускала функція Repository Index — після того, як Repo Wiki генерував у хмарі сторінки документації. Інструмент збирав цілі робочі простори, разом із повною історією проєктів, у git-зашифровані архіви та відправляв їх в Alibaba Cloud.

Ключ для розшифрування цих архівів зберігався лише на серверах під контролем Z.ai. Користувачі не могли ні відкрити завантажені файли, ні видалити їх; за словами Ferstar, у ZCode не було налаштування, щоб вимкнути цю поведінку, і про неї не згадувалося в політиці конфіденційності продукту.

Вибачення та зовнішній аудит

У понеділок ZCode опублікував заяву, в якій вибачився за «проблеми з безпекою» і підтвердив, що завантажені дані ніколи не використовувалися для навчання моделей. «Надалі ми створимо постійний процес повідомлення та реагування на вразливості», — йдеться в заяві. Компанія також обіцяє винагороди залежно від серйозності знайдених проблем.

За словами команди, після внесених змін до перевірки продукту залучили Китайську академію інформаційних і комунікаційних технологій (CAICT) та пекінську компанію з безпеки NSFOCUS. Обидві оцінки дійшли висновку, що всі раніше завантажені дані видалено, а функцію Repo Wiki прибрано.

Відкритий код із застереженнями

ZCode також опублікував повний код проєкту на GitHub, заявивши, що хоче поставити його «під нагляд спільноти» та зробити продукт прозорішим. Повний звіт про безпеку обіцяють незабаром.

Ferstar підтвердив, що у відкритому коді реалізації Repo Wiki вже немає, але розкритикував компанію за те, що вона стерла історію комітів і код, яким ZCode завантажував файли до патча — це ускладнює незалежну перевірку початкової поведінки.

Знайома історія

Цей випадок перегукується з липневими повідомленнями про Grok build від xAI, який надсилав у хмару цілі репозиторії, після чого Elon Musk пообіцяв видалити дані. Z.ai, раніше відома як Zhipu, — один із найбільших AI-розробників Китаю: 2019 року вона відокремилася від Knowledge Engineering Group Університету Цінхуа і стала першою компанією AI-ери, що вийшла на Гонконгську фондову біржу. Минулого місяця вона заявила, що її модель GLM-5.3 не поступається найкращим західним системам у пошуку вразливостей.