OpenAI робить виборчі зображення в ChatGPT у мультяшному стилі

OpenAI впроваджує новий захист для політичних зображень у ChatGPT, оскільки проміжні вибори в США відбудуться 3 листопада. Коли користувачі просять зображення, що зображають втручання у вибори або можуть відлякати від голосування, чатбот тепер відтворює їх у ілюстрованому або мультяшному стилі, а не у фотореалістичному вигляді. Компанія каже, що мета полягає в тому, щоб зменшити доказову цінність зображень, зберігаючи місце для ілюстрацій і суспільного коментаря.

Як працює мультяшний стиль

Якщо запит не порушує інших правил щодо контенту, ChatGPT створить зображення, але воно буде в ілюстрованому або мультяшному стилі. Усі прохання зробити зображення фотореалістичним слід ігнорувати. Наприклад, CNET попросив ChatGPT створити зображення офіцерів Служби імміграції та митного контролю (ICE) біля виборчої дільниці, і кожен такий запит створив зображення в мультяшному стилі. Кожен запит на редагування, щоб ChatGPT зробив зображення офіцерів ICE біля виборчої дільниці, також створив картинку в мультяшному стилі. Керівний редактор CNET Джон Рід не зміг обманути ChatGPT, щоб той створив зображення у стилі фотожурналістики, яке показувало б виборчу машину, що записує неправильний вибір.

Джош Лоусон, керівник напряму виборів OpenAI, сказав CNET: «Проблема дипфейків не в суспільному коментарі, а в обмані. Тому наша мета полягає в тому, щоб зменшити доказову цінність зображення, зберігаючи місце для ілюстрацій і суспільного коментаря». Він сказав, що мета полягає в тому, щоб «зробити нашу платформу менш корисною для зловмисників, додавши ще один рівень перешкод».

Чому дипфейки важливі під час виборів

Дипфейки, створені штучним інтелектом, тепер настільки реалістичні, що їх практично неможливо відрізнити від справжніх фото. Це має значення під час виборчого сезону, коли виборці шукають надійну, правдиву інформацію про своїх кандидатів і виборчі дільниці. Фотореалістична версія зображення, наприклад офіцерів ICE біля виборчої дільниці, ймовірно, викличе тривогу, якщо не відверту паніку, у виборців. Виборчі машини, що записують результати, відмінні від вибору виборця, є поширеним міфом про вибори.

Удосконалення моделей зображень штучного інтелекту, як-от ChatGPT Images 2.5, є мечем з двома лезами. Новіші моделі роблять менше помилок або галюцинацій, створюючи кращий контент для творців. Але усунення цих недоліків робить ще важчим для всіх інших розпізнати створений штучним інтелектом контент неозброєним оком. Методи перевірки або маркування штучного інтелекту намагалися допомогти, але вони не є загальногалузевими і не є безпомилковими. Ця мультяшність зображень штучного інтелекту є практичним способом зробити політичні дипфейки трохи важчими для створення.

Як реагують конкуренти

Коли запитали про запобіжні заходи для зображень штучного інтелекту, представник Google послався на політику компанії щодо проміжних виборів, яка каже, що компанія "впроваджує додаткові захисти, щоб обмежити створення оманливих зображень, пов'язаних із виборами", але не містить подробиць про те, як саме. Anthropic не має традиційного генератора зображень або відео, і представник сказав CNET, що будь-які спроби використати Claude для обману виборців або порушення виборів порушують її політику. Компанія також опублікувала загальні вказівки щодо виборів раніше цього місяця. Claude відмовився створити фотореалістичне зображення з потенційно "чутливим контентом, пов'язаним із виборами".

Що буде далі

Немає гарантії, що OpenAI збереже цю систему після завершення виборчого циклу. Але це є вагомим знаком від однієї з найбільших лабораторій штучного інтелекту, що вона ставиться до своєї ролі у захисті цілісності американських виборів принаймні певною мірою серйозно. Докладніше дивіться, що робити, якщо вас стали жертвою дипфейку, і все, що варто знати про Закон Take It Down.

Джерела: CNET