מכשירי הקלטה מבוססי בינה מלאכותית והמרוץ לנטרולם

בעתיד הקרוב האדם שיושב לידך בבר עשוי לענוד מיקרופון ומצלמה בתחפושת של משקפיים, שרשרת או סיכה. מאמר ב-The Atlantic בוחן את מרוץ החימוש שמתפתח בין מכשירים לבישים מבוססי בינה מלאכותית לבין אמצעי הנגד שנועדו לעצור אותם.

אביזרי AI בדרך למיינסטרים

מקליטים מבוססי AI משמשים היום כתמלילנים שקטים, עוזרים אישיים או תומכי זיכרון, ולפי המאמר בקרוב הם יפסיקו להיות נישה. אפל, שבעלת המערכת האקולוגית הגדולה בעולם למכשירים אישיים, נחשבת למפתחת סיכה או תליון מבוססי AI שישמשו כעיניים ואוזניים קבועות של האייפון; אביזרים כאלה עשויים יום אחד להיות נפוצים כמו AirPods.

במרץ הודיעה הסטארטאפ Deveillance כי היא מפתחת את Spectre I — מכשיר בצורת דיסקית הוקי שלטענת החברה מונע מאחרים להקליט אותך. את החברה הקימה איידה ברדארי, בוגרת טרייה שדאגה מהתפשטות המקליטים. היא סירבה להסביר כיצד פועלים אותות המשבש מעבר לאמירה שהם דומים לדיבור; לפי דבריה, היכולת המובטחת לזהות מיקרופונים סמוכים עדיין בפיתוח.

משבשים אולטרסוניים מול AI שמשחזר דיבור

לשיבוש יש היסטוריה: מכשירים מוקדמים פלטו רעש לבן רם, וחדשים יותר פולטים תדרים אולטרסוניים בלתי נשמעים, תוך ניצול תכונה של חומרת מיקרופונים. ב-2020 הצמידה קבוצה מאוניברסיטת שיקגו בראשות יושין צ'ן 23 מתמרים אולטרסוניים לצמיד אחד, כדי שאפשר יהיה לכוון את האות.

אולם AI יודע להסיר את הרעש הזה. משקפיים וסיכות מתקדמים משתמשים באלגוריתמי שחזור דיבור כדי לבודד קול אחד מתוך רבים — בעיית מסיבת הקוקטייל. דה-ליאנג וואנג מאוניברסיטת אוהיו סטייט אימן במשך עשורים רשתות נוירונים למכשירי שמיעה לזהות את תדרי הדיבור והקצב שלו; המודלים החדשים יכולים להשלים הברות חסרות.

להילחם בנתונים בעזרת נתונים

חוקרים אחרים מעדיפים ערפול על השתקה: ההיסטוריון פין ברנטון מ-UC Davis מצביע על בגדים ואיפור של האמן אדם הארווי שמפריעים לזיהוי פנים, ועל התוסף TrackMeNot שקובר חיפושים אמיתיים בין חיפושי דמה. פרופסור למשפטים וודרו הרצוג נזכר בקלטות בלבול — הקלטות עם 40 שכבות קול. ב-2023 הציג צוות בראשות מינג גאו משבש לביש שפולט אנטי-דיבור אולטרסוני המותאם לקול הדובר, בתוספת צליל מזויף בצורת דיבור.

מרוץ לא שוויוני

המאמר ספקן שאמצעי הנגד יצליחו לעמוד בקצב: המכשירים נשענים על תעשיית עיבוד דיבור שמגלגלת מיליארדים, בעוד שרק חוקרים בודדים וחברות קטנות בונים הגנות. ייתכן שמודלים עתידיים ידלגו על אודיו לגמרי — יקראו שפתיים כמו HAL 9000 ב-2001: אודיסאה בחלל, או ישחזרו דיבור מרעידות של כוס מים. במשחקי חתול ועכבר אנחנו בדרך כלל יודעים איך זה נגמר עבור העכבר, אומר הרצוג.