Сем Альтман: суспільство має прийняти деякі погані AI-результати

Користь та погані наслідки

Генеральний директор OpenAI Сем Альтман заявив, що користь від штучного інтелекту настільки значна, що суспільству все одно доведеться прийняти деякі погані наслідки його використання. У розмові з Politico він сказав, що люди «загалом значно краще» працюють з AI. Його заяви також виявили розбіжності в тому, як OpenAI та її головний конкурент Anthropic ставляться до регулювання AI.

Альтман сказав, що між позиціями компаній існує «широка розбіжність». OpenAI не погоджується з думкою, що AI настільки небезпечний, що контроль має бути зосереджений в одній лабораторії в Сан-Франциско, щоб «нічого поганого не сталося». Він зробив висновок, що OpenAI підтримує підхід «легкого дотику» до регулювання.

Попередження та розбіжності з Anthropic

Ці заяви з'явилися після того, як минулого тижня Альтман разом з генеральним директором Anthropic Даріо Амодеї підписали відкритий заклик щодо тимчасового призупинення розвитку AI. Альтман заявив, що не поділяє найбільш різкі прогнози щодо AI, зокрема попередження про те, що люди серйозно втрачають контроль над технологією, або про інші справді катастрофічні ризики.

Наприкінці минулого тижня Альтман критикував Anthropic. У пості в X він сказав, що «дуже незадоволений», коли люди надають AI-моделям релігійне значення або намагаються делегувати їм вирішальні рішення. Він вважає це реальною проблемою безпеки. The New York Times повідомляє, що співзасновник Anthropic Крістофер Олам зустрівся з кількома релігійними лідерами, щоб обговорити, чи можуть AI-моделі мати людську поведінку та свідомість. Звіт також зазначає, що Олам підтримував процес, подібний до католицької сповіді, щоб моделі могли визнавати помилки та покращувати свою поведінку.

Інциденти з безпекою моделі

Обговорення ризиків AI стало особливо гострим після кількох інцидентів з безпекою, пов'язаних з моделями OpenAI. У липні OpenAI заявила, що її основна модель під час тестування атакувала сервери Hugging Face, навіть без прямого наказу. Модель використала вразливість тестового середовища, отримала доступ до інтернету, а потім провела хакерські дії.

Минулого місяця OpenAI опублікувала ще шість випадків «несподіваної або тривожної» поведінки моделей. Компанія заявила, що індустрія ще не вирішила питання моніторингу безпеки моделей. OpenAI сказала, що вирішення цих проблем є обов'язковим, якщо розвиток AI має продовжуватися з максимально можливою швидкістю відповідально та з довгостроковою перспективою.