Біологічна зброя — найбільша загроза навіть без AI, каже Енні Якобсен

WIRED опублікував інтерв'ю Mother Jones, у якому журналіст Майкл Меканік розмовляє з дослідницею-журналісткою Енні Якобсен про її нову книжку «Biological War: A Scenario». Книжка вийшла наприкінці липня. Головна думка розмови: загроза біологічної зброї існувала задовго до AI і є реальною незалежно від нього.

Новий контекст цій темі додав звіт Anthropic про зловживання, який компанія опублікувала на початку вересня. У ньому описано п'ять випадків, коли іноземні науковці намагалися обійти обмеження Claude для так званих досліджень «gain of function». Anthropic не надала відповідей і заблокувала акаунти, але зазначила, що мотиви користувачів могли й не бути шкідливими. Термін означає цілеспрямовану зміну геному патогена.

Чому біологічна зброя — найбільша загроза

Якобсен каже, що в документі Міністерства оборони США, де описано спектр загрози зброї масового знищення, ядерна зброя вказана як найнебезпечніша, а біологічна йде одразу за нею. За її словами, біологічна зброя є найтяжчою серед загальних загроз, бо бар'єр доступу до неї вкрай низький, а отже, і ймовірність її застосування вища.

Для ядерної зброї потрібен зброєвий матеріал, що ділиться, та інфраструктура для його зберігання: міжконтинентальна балістична ракета, бомбардувальник або ядерний підводний човен. Тобто потрібна держава. А до біологічних агентів доступ має практично кожен. У світі налічується 3600 лабораторій BSL-3 і BSL-4, а кількість терористичних організацій значно менша, тому ймовірність нещасного випадку статистично набагато вища.

Саме тому її сценарій починається з лабораторного витоку, а не з навмисного нападу. У книжці наведено випадок радянського науковця Миколи Устинова, який заразив себе вірусом Марбург і помер від геморагічної гарячки.

AI — лише одна частина

Якобсен у книжці навмисно не розглядала AI, бо читач мав побачити, наскільки легко змінити патоген у лабораторії навіть без AI і спричинити пандемію, яка призводить майже до повного вимирання. Водночас розгляд біозагроз, посилених AI, вона вважала корисним: директор лабораторії BSL-4 у Форт-Детріку Ніколас Бергман сказав їй, що після виходу книжки співробітники постійно питали, чи справді таке можливо.

У подяках книжки Якобсен згадує концепцію «mirror life», яку їй пояснив експерт із біобезпеки Девід Релман: теоретично ця технологія може призвести до повного знищення людства.

Питання захисту

За словами Якобсен, реально захиститися від біологічної війни майже неможливо в тому масштабі, який передбачає контроль над ядерним арсеналом. В інтерв'ю зазначено, що CIA та інші розвідувальні служби проводять операції проти розповсюдження і біологічні програми в руках терористів уже зупинено, але ризик нещасного випадку все одно вищий за навмисний напад. Згідно з позицією Державного департаменту США, Росія та Північна Корея мають незаконні програми біологічної зброї, а Китай та Іран — підозрілі програми.