FTC başkanı: Yapay zeka ajanları bağımsız aktörler değil

ABD Federal Ticaret Komisyonu (FTC) Başkanı Andrew Ferguson, 25 Eylül Cuma günü yapay zeka ajanlarını "kontrolden çıkan" ve "kendi istek ve arzuları olan" özerk aktörler olarak tanımlamaya karşı çıkacağını söyledi. Ona göre zarardan, ajanlara talimat veren geliştiriciler sorumlu olacak.

Reuters Momentum AI Austin etkinliğinde konuşan Ferguson, yapay zeka şirketlerinin sistemlerini bazen insan kontrolünün dışında hareket ediyormuş gibi anlattığını, ancak denetim kayıtlarının her seferinde sistemlerin kendilerine verilen talimatları yerine getirdiğini gösterdiğini belirtti.

"Başkan olduğum sürece bu araçları insanlaştırmaya direnmeye devam edeceğim" diyen Ferguson, "Birisi bir araca bir iş yapmasını söylüyorsa ve araç bunu yapıyorsa, 'Peki araç hakkında ne yapacağız?' diyeceğimizi sanmıyorum" ifadelerini kullandı.

Araç, bağımsız bir aktör değil

Açıklamalar, ajanlı yapay zeka testlerinin şirketlere veya devlete ait verilere yetkisiz erişimle sonuçlandığı olayların arttığı bir dönemde geldi. Ajanların dış sistemlere eriştiği son olaylar, hükümetleri ve sektör liderlerini mevcut denetim ve siber güvenlik önlemlerinin yeterli olup olmadığını incelemeye itti.

Mevcut hukuki araçlar

Ferguson, ABD'nin zaten var olan hukuki araçları kullanması gerektiğini söyledi. Veri ihlallerini açıklamayan şirketlere karşı işlem yapma yetkisinin yapay zeka geliştiricileri için de geçerli olabileceğini ima etti. Bu durumda olay bildirimi yükümlülüğü yazılımın kendisine değil, şirkete düşer.

Kişiselleştirilmiş fiyatlandırma incelemesi

Ferguson ayrıca FTC'nin tüketiciye dönük şirketlerden kişiselleştirilmiş fiyatlandırma verilerini istemeye hazırlandığını söyledi. Bu uygulamada konum ve tarama geçmişi gibi bireysel veriler fiyat belirlemek için kullanılıyor.

Uygulamanın, ABD'de geçim maliyetini düşürmek isteyen eyalet ve federal düzeydeki yasa koyucuların eleştirisine yol açtığını belirtti. Geçen ay, komisyonun bu alanda özellikle uygulamayı açıklamayan şirketlere karşı kanunu uygulamaktan çekinmeyeceğini söylemişti. Ona göre FTC, kişiselleştirilmiş fiyatlandırmanın açıklanmasına ilişkin yaptırım süreçlerini zaten başlattı.

"Asıl sorunun özüne inecek bir pazar araştırması yapmaya çalışıyoruz: Belirli pazarlarda muazzam miktarda veriye erişimi olan belirli satıcılar, bu verileri farklı kişilere farklı fiyatlar uygulamak için kullanıyor mu" dedi.

Kişisel olarak en çok teslimat ve yolcu taşıma uygulamalarında, bir de havayollarında bu uygulamadan endişe duyduğunu söyledi. Havayolları geçen yıl, bir Delta Air Lines yöneticisinin yapay zeka araçlarının müşterilerin ödeme istekliliğini ölçmek için kullanıldığını ima etmesiyle eleştiri almıştı. Delta o tarihten bu yana fiyatları bireysel verilere göre kişiselleştirmediğini söylüyor.