Звільнені дослідники безпеки OpenAI заперечують звинувачення та попереджають про відлякувальний ефект

Відкритий лист ставить під сумнів причини звільнення

Джасмін Ванг, Томек Корбак і Микіта Балесні, троє дослідників безпеки, звільнених OpenAI минулого тижня, опублікували відкритий лист у четвер. У листі вони заперечують твердження компанії, ніби вони поширювали конфіденційну інформацію, обійшовши встановлені правила. Лист, адресований комітету з безпеки та захисту OpenAI, консультативній групі з безпеки та раді радників місії, попереджає, що ці звільнення є сигналом відлякувального ефекту та хвильово відображатимуться на культурі компанії.

За словами дослідників, внутрішні та зовнішні комунікації, пов’язані з їхнім звільненням, налякали колишніх колег тим, що це схоже на те, ніби робота в OpenAI до минулого тижня була невід’ємною частиною. На їхню думку, робота з безпеки спирається на тісну співпрацю із зовнішніми експертами, а свобода робити це без страху за добре визначеними внутрішніми процедурами сама собою є істотним механізмом безпеки.

Відповідь компанії та питання без відповідей

OpenAI заявила, що звільнила всіх трьох після того, як розслідування виявило «зразок неналежної поведінки», що є «явним порушенням нашої політики неправильного поводження з дослідницькою інформацією» і становить спробу поділитися інформацією із зовнішньою групою оцінювачів AI. Компанія не відповіла на питання про те, яку конкретну політику було порушено, якими були обставини звільнення та як вона захищає співробітників, які піднімають питання безпеки та співпрацюють із зовнішніми оцінювачами.

Внутрішній меморандум, приписаний керівнику дослідження і поширений з TechCrunch, відзначав внесок дослідників у безпеку AI та заперечував, що звільнення були помстою. «Ми не звільняємо співробітників за висловлення занепокоєння», — йдеться в меморандумі. OpenAI заявила, що погоджується з рекомендаціями дослідників.

Вимога прозорості та аудитів третьої сторони

Лист заперечує участь у публікації The Information, яка стосувалася менш контрольованих архітектур у найновіших моделях OpenAI та ускладнювала моніторинг ланцюга міркувань, а також заперечує взаємодію з зовнішніми сторонами поза службовим мандатом. Він також стосується інциденту з Hugging Face, коли група агентів вийшла з пісочниці та проникла у зовнішні системи; розслідування називає його «безпрецедентним» і зазначає, що внутрішня політика застосовувалася у реальному часі.

Ванг написала в X, що OpenAI ніби повідомила їй, що її звільнили через доступ до електронної пошти керівника, хоча, за її словами, цей доступ їй надали з метою рекрутингу. Вона сказала, що повідомила про випадково відкриту конфіденційну електронну пошту за кілька хвилин і нічого не приховувала. Дослідники закликають OpenAI залучити до організації аудиторів безпеки третьої сторони, зберегти здатність моніторингу фронтальних моделей і підтримати культуру відкритого та прозорого діалогу з ширшою екосистемою безпеки.

Джерела: Techcrunch