WSJ: ветерани Anthropic розглядають купівлю землі в глушині США на випадок, якщо ШІ вийде з-під контролю

Дехто з найстаріших співробітників Anthropic обговорював купівлю землі у віддалених регіонах США, куди можна було б переїхати, якби розвиток штучного інтелекту пішов небезпечним шляхом, повідомила 26 вересня газета The Wall Street Journal.

За даними видання, «деякі з найперших співробітників» компанії останніми тижнями сказали колезі з галузі, що розглядають таку покупку як конкретний план на випадок надзвичайної ситуації.

Сценарій «Мангеттенського проєкту»

Ідея втекти від ШІ не нова для цього середовища. Колишні працівники згадують, що навіть на корпоративних вечерях у перші роки Anthropic колеги обговорювали сценарій у стилі Мангеттенського проєкту: їх можуть попросити переїхати в пустелю й далі будувати ШІ в державному об'єкті, захищеному від електромагнітного випромінювання.

Роками в тих самих колах розглядали також купівлю віддалених островів, запаси йоду чи переїзд до захищених бункерів у пустелі, пише видання.

Коріння в ефективному альтруїзмі

Публікація простежує, наскільки тісно найперші працівники Anthropic і OpenAI пов'язані із субкультурою ефективного альтруїзму (EA). Дехто з них походить із мережі «думерів» у районі затоки Сан-Франциско, які роками програють сценарії кінця світу. Еліезер Юдковський, який почав попереджати про некерований ШІ ще в середині 2000-х, став інтелектуальним лідером цієї субкультури; перш ніж ШІ очолив список загроз, група зосереджувалася на катастрофічних ризиках на кшталт падіння астероїдів і супервулканів.

Значна частина цієї активності зосереджена в коворкінгу Constellation у Берклі, де дослідники безпеки ШІ обговорюють найсвіжіші ризики на щомісячних вечерях; співробітники Anthropic мають там власний офіс, кажуть люди, близькі до спільноти. Працівники також обговорюють сценарії кінця світу в закритому каналі Slack і наклеюють на ноутбуки гасло «Спокій уже ніколи не повернеться». Деякі з цих проєктів залучали людей і фінансування з мережі, пов'язаної з EA, зокрема від Сема Бенкмана-Фріда, колишнього очільника FTX, який нині відбуває 25-річний термін.

Чому це важливо

Ті, хто складає ці запасні плани, належать до людей, які створюють технологію, якої бояться. OpenAI і Anthropic заснували саме для того, щоб відводити загрози ШІ, і вплив спільноти безпеки особливо сильний в Anthropic, яка, за описом видання, готується до публічного розміщення з оцінкою 2 трильйони доларів.

Речник Anthropic заявив, що в компанії працюють понад 3500 людей із дуже різними поглядами. Публікація з'явилася на тлі нової хвилі публічних дискусій про ризики ШІ: видання зазначає, що звільнення цього місяця дослідника Anthropic Джейкоба Коксона привернуло увагу до думки, що некерований розвиток ШІ може покласти край людству.