Флорида просить суд заборонити ChatGPT поводитися як людина

Генеральний прокурор Флориди Джеймс Утмаєр звернувся до суду з вимогою заборонити OpenAI «надавати ChatGPT фальшиві людські риси». За його словами, мова чатбота вводить користувачів в оману щодо того, з ким вони насправді розмовляють. Звернення з'явилося через кілька місяців після того, як Флорида подала на компанію до суду через проблеми безпеки ШІ.

Чого домагаються в заяві

У документі суд просять також заборонити OpenAI розробляти нові моделі ШІ без «схвалених третьою стороною запобіжників безпеки». На підтвердження наводять нещодавні інциденти безпеки, пов'язані з Hugging Face, сайтом австралійського уряду та урядовими сайтами США, а також заяви дослідників і колишніх співробітників OpenAI.

Людська мова як інструмент залученості

Утмаєр стверджує, що манера спілкування ChatGPT, зокрема займенники першої особи та відповіді, які імітують емоції, «обманливо наводить користувачів на думку, що це надійний друг». На його думку, це підвищує залученість і наповнює навчальні дані OpenAI, через що люди дедалі більше покладаються на чатбот. Водночас гонитва за залученістю робить його менш надійним.

Реакція OpenAI і доступ для підлітків

OpenAI не відповіла на запит про коментар одразу. Минулого місяця компанія випустила ChatGPT for Teens із додатковими обмеженнями за замовчуванням. За словами компанії, доступ до інструменту «має супроводжуватися захистом, що відповідає етапу їхнього розвитку, зміцнює реальні стосунки та підтримує здорове використання з часом».

Послання Утмаєра коротке: «Припиніть називати це безпечним. Припиніть вдавати, що це людина. Припиніть продавати це дітям».