WIRED, Instinct'i test etti: 550 dolar kazandıran, 64 dolar kaybettiren ajan

WIRED yazarlarından Zoë Schiffer, yalnızca davetle erişilebilen bir yapay zeka ajanı olan Instinct'i birkaç hafta boyunca kullandı. iMessage ve WhatsApp üzerinden kullanıcılarıyla konuşan ve e-posta, takvim ile mesajlaşma uygulamalarına bağlanan Instinct, 24 Eylül'de yayımlanan yazıda hem işe yarayan hem de sorun çıkaran bir asistan: rezervasyonlar ayarladı, 550 dolarlık uçuş iadesi kazandırdı, ama 64 dolara mal oldu.

Instinct nasıl çalışıyor?

Şubat ayında kapalı beta ile piyasaya çıkan Instinct'in açık bir metin kutusu yok: kullanıcı ona bir insana yazar gibi mesaj atıyor, ajan da yapabileceği işleri kendisi önerip gerçekleştiriyor. Schiffer, Instinct'in çok sık mesaj atmadığını da yazıyor; bir hafta sonra sildiği rakip ajan Lindy ise her sabah yazıyordu.

Nerede işe yaradı?

İtalya'nın Venedik kentine yapılacak bir iş seyahatinde rotasını ajana verdi ve bulunacağı yerlerde, küçük restoranlara WhatsApp'tan yazarak masa ayırtmasını istedi. Rezervasyonlar tuttu.

Ardından daha zor bir görev geldi. Kız kardeşiyle kasım ayı için New York seyahatini çoktan ayırtmıştı; ancak WIRED ondan bir gün önce Miami'deki WIRED World Fair'e katılmasını istedi. Ekonomik bilet taşınamıyordu ve ilk bacağı kaçırmak tüm rezervasyonu iptal edecekti. Ajan, Alaska Airlines'ın uçuşu 90 dakika öne aldığını fark etti — Schiffer'in gözden kaçırdığı bu değişiklik tam iade hakkı doğuruyordu. Bileti iptal ederek yaklaşık 550 dolar tasarruf sağladı ve San Francisco'ya dönüş için tek yön bilet aldı.

Güvenlik ödünü

Bu görevleri mümkün kılan erişimin kendisi riskin kaynağı. Ajanı e-postalarından ayırmaya çalışan kullanıcılar, gelen kutusunun bir kopyasının yine de saklandığını gördü. Bir risk sermayedarı, botun rezervasyon hizmetinin API'sine saatte 200 kez istek göndermesi üzerine Resy'nin kendisini engellediğini söyledi. Başka bir teknoloji yatırımcısı, Instinct'in oltalama saldırısıyla kandırılmasının çok kolay olacağı sonucuna varıp uygulamayı sildi. Şirketin kullanım koşulları da görüşmelerin bir kısmını yapay zeka modellerini eğitmek için kullanmasına izin veriyor.

Yazarın kendi talihsizliği daha küçüktü: geciken bir DoorDash siparişini yalnızca iade alınabilirse iptal etmesi söylenen ajan, siparişi yine de iptal etti ve 64 dolar kayboldu; ajan özür diledi, ancak zararı karşılamayı teklif etmedi. Şirket, WIRED'ın yorum talebine yanıt vermedi.

Neden önemli?

Bu bilanço, işlerini ajanlara devredenlerle onları hiç denememiş olanlar arasındaki ayrımın bir parçası. Schiffer, ajanların hâlâ kullanıcıdan çok yönlendirme beklediğini vurguluyor. Yine de uygulamayı silmiyor: ajan geçenlerde bir arkadaşından gelen e-postayı açmamasını söyledi ve o e-posta oltalama dolandırıcılığı çıktı. Sonuç şu: ajanlar bir güvenlik kabusu, ama şimdilik bu risk almaya değer.