Сем Альтман виступає проти релігійних аналогій що до AI

Релігійні аналогії та безпека AI

Генеральний директор OpenAI Сем Альтман виступає проти релігійних аналогій, пов’язаних із моделями AI. Він сказав, що йому «дуже некомфортно», коли люди приписують моделям AI релігійну силу або визнають, що вони здатні на людський суд, і називає це «реальною проблемою безпеки». Його коментарі з’явилися після детального звіту New York Times про контакт Anthropic із релігійними лідерами та заяви Папи Римського Лео XIV, що «алгоритмам бракує відбитку людяності».

Зауваження Альтмана стосується мови, яку використовують навколо AI, особливо ідеї про те, що моделі мають релігійну силу або що люди визнають їх здатними на людський суд. Це занепокоєння відрізняється від тверджень ніби моделі AI мають свідомість або несуть релігійне значення.

Ранні амбіції щодо AI, подібного до людини

Його коментарі контрастують із ранніми публічними описами мети OpenAI. У 2023 та 2024 роках Альтман казав, що метою OpenAI було створення «магічного інтелекту, що існує в небі». Того ж року він сказав, що сподівався бути на боці Бога, і під час роботи над AI почував себе «на боці ангелів».

Альтман також неодноразово казав, що його мета — AI на кшталт Доні з науково-фантастичного фільму «Her», що означає глибоко гуманізовану AI. Ця амбіція відрізняється від того, щоб приписувати самим моделям свідомість або релігійне значення. Чи є така духовна розмова більш надійною, має вирішити читач.

OpenAI та релігійні лідери

OpenAI також розмовляла з релігійними лідерами. Згідно з поширеними в медіа відомостями, контакт Anthropic із релігійними лідерами, заява Папи Римського Лео XIV та перемовини OpenAI з релігійними лідерами розміщують це питання в ширшому релігійному контексті. Коментарі Альтмана акцентують ризик того, що моделям припишуть релігійну силу або визнають їх здатними на людський суд, що він описує як реальну проблему безпеки.