Гарвардський психолог закликає до виваженої інженерії безпеки ШІ замість апокаліптичної риторики

Гарвардський психолог Стівен Пінкер відкинув думку, що штучний інтелект ось-ось знищить людство. Свою позицію він виклав у відкритому листі на Quillette, адресованому психіатру й блогеру Скотту Александеру. Той запропонував йому публічні дебати про екзистенційні ризики ШІ, але Пінкер відмовився, назвавши такі диспути «спортом для глядачів».

Аргументи Пінкера

Пінкер відкидає апокаліптичні сценарії, зокрема так званого максимізатора скріпок, у якому ШІ перетворює людство на сировину, щоб виготовити більше скріпок. На його думку, такі сценарії ототожнюють інтелект із прагненням до домінування і припускають, що система маніакально переслідує одну мету, нехтуючи побічними наслідками.

Ці аргументи він уперше виклав у 31-сторінковому розділі «Existential Risk» у книзі Enlightenment Now 2018 року. На його думку, апокаліптичні сценарії мають чотири вади: нерозвинене уявлення про інтелект, який розглядають як кількість влади й екстраполюють до всезнання; змішування інтелекту з мотивацією, бо прагнення до самозбереження й домінування в людей є продуктом природного відбору, а не вбудованою властивістю інженерних систем; припущення про одноцільову одержимість; і припущення, що інженери дадуть таким системам необмежений і незворотний контроль над фізичною інфраструктурою планети.

Він також посилається на модельний аналіз RAND Corporation 2025 року, який припустив, що ШІ справді прагне знищити людство, і все одно дійшов висновку: «не існує описуваного сценарію, у якому ШІ є безперечною загрозою вимирання людства».

Що він визнає

Пінкер не називає технологію безпечною. Він визнає, що недооцінив, наскільки загальними стануть великі мовні моделі, і не передбачив, як стрімко й подекуди безвідповідально провідні компанії випускатимуть продукти. За його словами, цю гонку очолюють люди з тієї самої спільноти, яка попереджає про ризики.

Що справді працює

Загрози, які Пінкер сприймає серйозно, це біотероризм, кібердиверсії та некеровані агенти ШІ. На його думку, апокаліптична риторика тут не допоможе. Натомість працюють виважена оцінка безпеки та інженерні практики: незалежний нагляд, обов'язкове розслідування аварій, відповідальність за шкоду, участь людини в контурі та аварійні вимикачі.

Він також попереджає, що пророцтва про кінець світу часто дають зворотний ефект: ядерний страх 1960-х років призвів не до роззброєння, а до гонки озброєнь.

Позиція Александера

Скотт Александер виклав власні погляди у своєму блозі Astral Codex Ten у червні. Ймовірність того, що ШІ знищить людство, він оцінює у 20% і вимагає і кращих досліджень безпеки, і міжнародних угод, які сповільнять розвиток ШІ.