Голова FTC: AI-агенти це інструменти, а не самостійні суб'єкти

Голова Федеральної торгової комісії США (FTC) Ендрю Фергюсон заявив у п'ятницю, 25 вересня, що опиратиметься опису AI-агентів як автономних суб'єктів, які «вириваються з-під контролю» і мають «власну волю та бажання». За його словами, відповідальність за шкоду мають нести розробники, які дають агентам інструкції.

Виступаючи на заході Reuters Momentum AI Austin, Фергюсон сказав, що AI-компанії іноді описують свої системи як такі, що діють поза контролем людини. Проте перевірка журналів аудиту щоразу показувала, що системи виконували отримані інструкції.

«Я, доки обіймаю посаду голови, і надалі чинитиму опір цьому олюдненню інструментів», сказав Фергюсон. «Якщо хтось дає інструменту завдання, і інструмент його виконує, я не думаю, що ми скажемо: що ж нам робити з інструментом?»

Інструмент, а не самостійний суб'єкт

Заява прозвучала на тлі зростання кількості інцидентів, коли тестування агентного AI призводило до несанкціонованого доступу до корпоративних або державних даних. Нещодавні випадки, коли агенти потрапляли до зовнішніх систем, змусили уряди та лідерів галузі перевірити, чи достатньо наявного нагляду й заходів кібербезпеки.

Наявні правові інструменти

Фергюсон сказав, що США мають використовувати правові інструменти, які вже існують. Він припустив, що повноваження FTC діяти проти компаній, які не розкривають витоки даних, можуть поширюватися і на розробників AI. Тоді обов'язок повідомляти про інцидент лежатиме на компанії, а не на самій програмі.

Вивчення персоналізованих цін

Фергюсон також повідомив, що FTC готується запросити в компаній, які працюють зі споживачами, дані про використання персоналізованого ціноутворення, коли ціну визначають на основі індивідуальних даних, як-от місцеположення та історія переглядів.

Він зауважив, що ця практика викликає критику законодавців на рівні штатів і федерації, які прагнуть знизити вартість життя у США. Минулого місяця він сказав, що комісія не вагатиметься застосовувати закон, особливо там, де компанії не розкривають таку практику. За його словами, FTC вже розпочала провадження щодо розкриття персоналізованих цін.

«Ми намагаємося отримати дослідження ринку, яке дасть відповідь на головне питання: чи використовують окремі продавці на окремих ринках, які мають доступ до величезних обсягів даних, ці дані, щоб призначати різні ціни різним людям», сказав він.

Особисто його найбільше турбує використання цієї практики в застосунках доставки та перевезень, а також авіакомпаніями. Авіакомпанії зазнали критики минулого року після того, як керівник Delta Air Lines припустив, що AI-інструменти застосовують для оцінки готовності клієнтів платити. Delta відтоді заявляє, що не персоналізує ціни на основі даних окремих людей.