Jaan Tallinn, один із перших інвесторів Anthropic, попереджає: ШІ може знищити людство

The Wall Street Journal опублікувало профіль Jaan Tallinn, естонського програміста й співзасновника Skype, одного з найперших інвесторів Anthropic. У матеріалі журналістки Kate Clark, що вийшов 25 вересня, ідеться, що Tallinn провів минулий тиждень у Нью-Йорку, на Генеральній асамблеї ООН, переконуючи підприємців, інвесторів і політиків: штучний інтелект може знищити людство.

Уже понад десять років Tallinn відстоює безпеку ШІ. Ця тема знову опинилася в центрі уваги після того, як дослідник Anthropic Jacob Coxon звільнився й попередив, що ШІ може вийти з-під контролю. «На жаль, я вважаю, що ми ставимося до цієї загрози недостатньо серйозно і що ми наввипередки створюємо технологію, яка може покласти край людству», заявив Tallinn.

Ставка на Anthropic

У 2021 році, невдовзі після того як Dario Amodei та інші дослідники залишили OpenAI (зокрема через питання безпеки) і заснували Anthropic, Tallinn погодився очолити раунд Series A на $124 мільйони. У раунді також взяли участь співзасновник Facebook Dustin Moskovitz, James McClave з Jane Street, Center for Emerging Risk Research і колишній CEO Google Eric Schmidt. За даними PitchBook, які наводить видання, стартап оцінили у $461 мільйон.

Традиційні венчурні фонди в раунді майже не брали участі, бачачи в Anthropic Давида проти Голіафа OpenAI. Tallinn казав, що інвестував із надією: його думку почують там, де створюють небезпечну технологію.

Десятиліття попереджень

Tallinn, якому 54 роки, народився в Естонії та виріс за залізною завісою; його батьки були архітектором і кінорежисеркою. Після диплома з теоретичної фізики він долучився до створення файлообмінника Kazaa, а згодом Skype, який Microsoft пізніше купила за $8,5 мільярда. У 2008 році роботи дослідника ШІ Eliezer Yudkowsky переконали його в катастрофічному потенціалі технології.

Нині він вважається найбагатшою людиною Естонії: його статки оцінюють у $12 мільярдів. За опублікованим ним переліком пожертв, на ініціативи з безпеки ШІ він витратив близько $170 мільйонів. Він співзасновник Cambridge Centre for the Study of Existential Risk і Future of Life Institute.

2011 року під час розмови з Dario Amodei він зробив прогноз, який став відомим. «Я оцінюю ймовірність нашої загибелі від катастрофи AGI двозначним числом», сказав він згідно зі стенограмою. «Для мене це так, ніби ми намагаємося знешкодити бомбу». Amodei був менш упевнений: «Бомба може бути, а може й не бути».

Що буде далі

Частка Tallinn має різко зрости, якщо Anthropic завершить публічне розміщення, якого очікує ринок. Rauno Miljand, керівний партнер інвесткомпанії Tallinn Metaplanet, розповів виданню, що фірма намагається вирішити, як використати кошти від розміщення, які можуть перевищити $2 трильйони, на підтримку людства. «Якщо виявиться, що Anthropic зазнала невдачі й знецінилася до нуля, це добре, бо тоді ми, ймовірно, не досягли ASI, і людство просто виграло собі додаткові роки», сказав він. «Це свого роду безпрограшна ситуація».