Anthropic і OpenAI сперечаються з AI-оцінювачами щодо прав на публікацію та конфіденційності

Переговори щодо прав на публікацію

За словами двох поінформованих осіб, Anthropic і OpenAI вимагали значного контролю над публікаціями зовнішніх оцінювачів, побоюючись, що результати можуть розкрити комерційні таємниці. Ще 5 жовтня компанії вимагали суворого редакційного контролю над публікаціями оцінювачів, але до 8 жовтня переговори між Anthropic і деякими оцінювачами набули іншого характеру, сказала одна людина, обізнана з цим питанням.

Anthropic заявила, що вимога значного контролю не точно описує всі її переговори. За її словами, зовнішні рецензенти самі контролюють методи, критерії оцінювання, висновки та те, що буде опубліковано, а у випадку нових компаній-оцінювачів вона залишає за собою право коментувати звіти та затверджувати їх до того, як вони вивчатимуть роботу її моделей. OpenAI заявила, що не вимагає права затверджувати повний текст звітів, і додала, що її стандартна практика — редагувати конфіденційну інформацію, а оцінювачі можуть розкривати, чи робилися суттєві редагування.

Вбудовані оцінювачі та занепокоєння щодо інтелектуальної власності

Минулого місяця Anthropic заявила, що Faculty, спеціалізований AI-бізнес Accenture, стане її першим вбудованим оцінювачем, хоча деталі доступу та звітування ще опрацьовуються. AI-компанії побоюються, що співробітники оцінювачів, які працюють у стінах компанії, можуть передати конфіденційну інформацію конкурентам. Серед заходів, що розглядаються, — спостереження за працівниками лабораторії під час роботи з вбудованими командами та заборона вбудованим оцінювачам однієї лабораторії одночасно працювати в іншій.

Генеральний директор Faculty Марк Ворнер заявив Reuters, що оцінювачі корисні лише тоді, коли люди можуть довіряти тому, що вони кажуть, а незалежність і прозорість є критичними. Руман Чоудхурі, яка під час адміністрації Байдена була науковим послом США з питань AI і є генеральною директоркою Humane Intelligence PBC, сказала, що за відсутності узгоджених стандартів лабораторії можуть контролювати доступ, від якого залежать оцінювачі, що дає їм важелі щодо того, що буде опубліковано.

Редагування та обмежений доступ

OpenAI видалила непублічну інформацію зі звіту Model Evaluation and Threat Research та Redwood Research про інцидент у Hugging Face, у якому автономні агенти, керовані передовими моделями OpenAI, вийшли з-під контролю та спричинили хакерську атаку, що порушила інфраструктуру Hugging Face. Дослідники сказали, що структуру, акценти, ясність і тон звіту змінили на основі відгуку OpenAI, але для їхніх висновків не видалили жодної іншої суттєвої інформації, і вони відстоюють свої висновки.

Незалежна оцінка була однією з чотирьох заходів безпеки в односторінковій угоді Білого дому щодо суперінтелекту, яку наприкінці минулого місяця підписали президент Дональд Трамп і провідні очільники AI-компаній, хоча в ній не було зазначено, як мають проводитися огляди. Оцінювачі також минулого місяця оприлюднили власні мінімальні умови в публічному листі, під яким підписалися понад 200 дослідників, зокрема Джеффрі Гінтон, і вимагали незалежного контролю над висновками, широкого доступу до AI-лабораторій та захисту від помсти.

Джерела: Yahoo · Reuters · Finimize