Dedesini deepfake ses dolandırdı: torunu telefonda çalışan sahte ses tespiti geliştirdi

Telefon çaldığında Tarini Padmanabhuni'nin dedesi kardeşiyle konuştuğuna inanıyordu. Ses, kardeşinin kaçırıldığını ve onu geri almanın tek yolunun fidye olduğunu söyledi. Dede ödedi ve ancak sonradan kardeşinin tamamen başka bir yerde olduğunu öğrendi. Ses bir deepfake'ti. "Beni asıl etkileyen para değildi," diyor Padmanabhuni. "Onu ayırt edecek hiçbir yolu olmamasıydı."

Bu yaklaşık iki yıl önceydi. Bugün kurduğu San Francisco merkezli DetectifAI, başkalarının da aynı şekilde kandırılmamasını hedefliyor.

Büyüyen bir sorun, ona eşlik eden pazar

FBI'a göre Amerikalılar geçen yıl yapay zeka destekli dolandırıcılıkta yaklaşık 900 milyon dolar kaybetti; bu 2024'e göre %24 artış demek. 60 yaş ve üzeri kişiler, 50-59 yaş aralığındakilerden iki kat fazla kaybetti.

Rakip eksik değil: Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety ve Nuance. Ancak mevcut ürünler bulutta çalıştığı için telefon üreticileri onları cihazlara gömerek kullanamıyor ve hedef neredeyse savunmasız kalıyor.

Bulutta değil, cihazın kendisinde tespit

DetectifAI, büyük bulut modellerini telefona sığdırmak yerine kompakt modelleri en baştan tasarladığını söylüyor: işletim sistemi içinde çalışacak kadar küçük modeller. Amaç, aramalarda ve sesli mesajlarda sesin yapay zeka üretimi olup olmadığına dair anında sonuç vermek; ses cihazdan hiç çıkmıyor.

Şirket önce telefon üreticilerine satış yapıyor; böylece tespit, işletim sisteminin yerleşik bir özelliği olarak geliyor. Padmanabhuni bunu AT&T'nin ilk iPhone lansmanındaki rolüne benzetiyor: DetectifAI'yi ilk gönderen üretici avantaj kazanacak ve sahte ses tespiti, kamera çözünürlüğü gibi standart bir özellik olacak.

SDK, ilk gelir ve küçük bir tur

Ürünün çekirdeği DetectifAI'nin yazılım geliştirme kiti: başka şirketlerin ürünlerine ekleyebildiği kod paketi. İkincil gelir ise teknolojinin işletmelere ve dolandırıcılık önleme firmalarına lisanslanmasından gelecek.

Girişimin hâlihazırda ilk geliri var ve Hindistan'daki finans kurumları için ayda 100.000'den fazla çağrıyı işliyor. Çağrıları, borç tahsilatı ve kredi belgeleri için kullanılan yapay zeka sesli ajanları yapıyor; her çağrıda sahte ses tespiti ve konuşmacı doğrulaması çalışıyor. Müşteri adlarını paylaşmadı.

DetectifAI, daha önce TechCrunch editörü olan Josh Constine ile Manohar Kamath'tan küçük bir başlangıç yatırımı aldı ve 13-15 Ekim'de San Francisco'da yapılacak TechCrunch Disrupt kapsamındaki Startup Battlefield'a katılacak girişimler arasında.

En ödüllendirici an sorulduğunda küçük bir WhatsApp beta testini işaret ediyor: kullanıcılar şüpheli ses kayıtlarını iletiyor ve gerçek olup olmadığına dair değerlendirme alıyor. Bir test kullanıcısı, bunun için tereddütsüz ödeme yapacağını söyledi. "Dedemde bu yoktu," diyor.