נשק ביולוגי הוא האיום הגדול ביותר גם בלי AI, אומרת אנני ג'ייקובסן

WIRED פרסם ראיון של Mother Jones שבו העיתונאי מייקל מקניק משוחח עם חוקרת-העיתונאית אנני ג'ייקובסן על ספרה החדש „Biological War: A Scenario”. הספר יצא בסוף יולי. הרעיון המרכזי של השיחה הוא שאיום הנשק הביולוגי היה קיים הרבה לפני AI והוא ממשי גם באופן בלתי תלוי בו.

הקשר חדש לנושא הוסיף הדוח של Anthropic על שימוש לרעה, שפורסם על ידי החברה בתחילת ספטמבר. בדוח מתוארים חמישה מקרים שבהם מדענים זרים ניסו לעקוף את ההגבלות של Claude במחקרי „gain of function”. Anthropic לא סיפקה תשובות וחסמה את החשבונות, אך ציינה שייתכן שמניעי המשתמשים לא היו זדוניים. המונח מציין שינוי מכוון של גנום הפתוגן.

מדוע הנשק הביולוגי הוא האיום הגדול ביותר

ג'ייקובסן אומרת שבמסמך של משרד ההגנה של ארה״ב, שבו מתואר ספקטרום איומי נשק להשמדה המונית, נשק גרעיני מסומן כמסוכן ביותר, והביולוגי עוקב אחריו מקרוב. לדבריה, נשק ביולוגי הוא החמור מבין האיומים המשותפים, משום שמחסום הגישה אליו נמוך במיוחד, ולכן גם ההסתברות לשימוש בו גבוהה יותר.

עבור נשק גרעיני דרושים חומר בקיע באיכות נשק ותשתית לאחסונו: טיל בליסטי בין-יבשתי, מפציץ או צוללת גרעינית. כלומר, נדרשת מדינה. לעומת זאת, אל סוכנים ביולוגיים יש גישה כמעט לכל. בעולם יש 3600 מעבדות BSL-3 ו-BSL-4, ומספר הארגונים הטרוריסטיים נמוך בהרבה, ולכן ההסתברות לתאונה סטטיסטית גבוהה בהרבה.

בדיוק משום כך התרחיש שלה מתחיל בדליפה ממעבדה ולא בהתקפה מכוונת. בספר מובא המקרה של המדען הסובייטי ניקולאי אוסטינוב, שהדביק את עצמו בנגיף מרבורג ומת מקדחת דימומית.

AI הוא רק חלק אחד

ג'ייקובסן בכוונה לא דנה ב-AI בספר, משום שהקוראים היו צריכים לראות כמה קל לשנות פתוגן במעבדה גם בלי AI וליצור מגפה שכמעט גורמת להכחדה מוחלטת. עם זאת, היא ראתה תועלת בדיון בביוסיכונים המוגברים באמצעות AI: מנהל מעבדת BSL-4 בפורט דטריק, ניקולס ברגמן, סיפר לה שאחרי צאת הספר עובדים שאלו אותו כל העת אם דבר כזה באמת יכול לקרות.

במילות התודה של הספר ג'ייקובסן מזכירה את הרעיון של „mirror life”, שמומחה הביובטיחות דייוויד רלמן הסביר לה: באופן תיאורטי הטכנולוגיה הזו יכולה להשמיד כליל את האנושות.

שאלות על הגנה

לדברי ג'ייקובסן, הגנה ממשית מפני מלחמה ביולוגית היא כמעט בלתי אפשרית בהיקף שמקביל לבקרת ארסנל גרעיני. בראיון מצוין ש-CIA וסוכנויות ביון אחרות מבצעות פעולות נגד הפצה, ושתוכניות ביולוגיות בידי טרוריסטים כבר נעצרו, אך הסיכון לתאונה עדיין גבוה מהסיכון להתקפה מכוונת. לפי עמדת משרד החוץ של ארה״ב, לרוסיה ולצפון קוריאה יש תוכניות לא חוקיות לנשק ביולוגי, ולסין ולאיראן תוכניות חשודות.