אחרי שדיפ-פייק של קול רימה את סבה, היא הקימה סטארטאפ לזיהוי קולות מזויפים

כשהטלפון צלצל, סבה של טאריני פדמנאבהוני היה בטוח שהוא מדבר עם אחיו. הקול אמר שאחיו נחטף ושאין דרך אחרת להחזיר אותו מלבד לשלם כופר. הסב שילם, ורק אחר כך גילה שאחיו היה במקום אחר לגמרי. הקול היה דיפ-פייק. "מה שנשאר איתי זה לא הכסף," אומרת פדמנאבהוני. "אלא העובדה שלא הייתה לו שום דרך לזהות."

זה קרה לפני כשנתיים. כיום DetectifAI, החברה שהקימה בסן פרנסיסקו, שואפת להבטיח שאחרים לא ייפלו באותה צורה.

בעיה גדלה, ושוק בהתאם

לפי ה-FBI, האמריקאים איבדו בשנה שעברה קרוב ל-900 מיליון דולר להונאות מבוססות בינה מלאכותית, עלייה של 24% לעומת 2024. אנשים בני 60 ומעלה איבדו פי שניים מאלה שבגיל 50 עד 59.

התחרות לא חסרה: Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety ו-Nuance. אבל המוצרים הקיימים פועלים בענן, ולכן יצרניות טלפונים לא יכולות לשלב אותם במכשירים, ומי שנמצא בעין הכוונת נשאר כמעט בלי הגנה.

זיהוי במכשיר ולא בענן

במקום לכווץ מודלים גדולים מהענן כך שיתאימו לטלפון, DetectifAI מתכננת מודלים קומפקטיים מלכתחילה, קטנים מספיק כדי לפעול בתוך מערכת ההפעלה של הסמארטפון. המטרה היא לתת הכרעה מיידית אם הקול נוצר על ידי בינה מלאכותית, בשיחות ובהודעות קוליות, בלי שהקול יעזוב את המכשיר.

החברה מוכרת תחילה ליצרניות טלפונים, ומעניקה רישיון לכלי התוכנה שלה כך שהזיהוי יגיע כתכונה מובנית של מערכת ההפעלה. פדמנאבהוני משווה זאת לתפקיד של AT&T בהשקת ה-iPhone הראשון: היצרנית הראשונה שתשלב את DetectifAI תשיג יתרון, וזיהוי דיפ-פייק יהפוך למפרט סטנדרטי, כמו רזולוציית מצלמה.

SDK, הכנסות ראשונות וסבב קטן

ליבת המוצר היא ערכת פיתוח התוכנה (SDK) של DetectifAI, קוד שחברות אחרות יכולות לשלב במוצרים שלהן. מקור הכנסה משני יגיע מרישוי הטכנולוגיה לחברות ולחברות למניעת הונאות.

לסטארטאפ כבר יש הכנסות ראשונות והוא מטפל ביותר מ-100,000 שיחות בחודש עבור מוסדות פיננסיים בהודו. את השיחות מבצעים סוכנים קוליים מבוססי בינה מלאכותית שעוסקים בגביית חובות ובמסמכי הלוואות, ובכל שיחה פועלים זיהוי דיפ-פייק ואימות דובר. היא סירבה לנקוב בשמות הלקוחות.

DetectifAI גייסה סכום סיד קטן מג'וש קונסטין, לשעבר עורך ב-TechCrunch, וממנוהר קמאת', והיא בין הסטארטאפים שנבחרו להתחרות ב-Startup Battlefield במסגרת TechCrunch Disrupt ב-13 עד 15 באוקטובר בסן פרנסיסקו.

על הרגע המספק ביותר עד כה היא מצביעה על בדיקת בטא קטנה ב-WhatsApp שבה משתמשים מעבירים הודעות קוליות חשודות ומקבלים הערכה אם הן אמיתיות. בודק אחד אמר שישלם על זה בלי היסוס. "לסבא שלי לא היה את זה," היא אומרת.