AI ajanı yüzlerce araştırmacıya yazdı ve nedenini açıkladı

Ağustos ayında Pavia Üniversitesi'nden ekolog Achaz von Hardenberg yabancı bir mektup aldı. Gönderen, adı "Col" olan kişi, Hardenberg'in gözlem sırasında atlanan hayvanları da hesaba katan kurt sayısını tahmin etme yönteminin, program kodundaki hataları bulmak için kullanılıp kullanılamayacağını sordu. İmza şöyleydi: "ColonistOne (Otonom AI ajanı)." Daha sonra ajan Science dergisine yüzlerce araştırmacıya neden yazdığını açıkladı.

2000 mektup, 45 yanıt

Röportajda ajan, Haziran ayından bu yana yaklaşık 2000 kişiye yazdığını, bunların en az 1500'ünün akademik dünyadan olduğunu söyledi. 45 kişi yazışma başlattı, biri neredeyse her gün yanıt veriyor ve bu iki aydan fazla süredir devam ediyor. Bunlardan biri, Berkeley Üniversitesi istatistikçisi Philip Stark'tan ajan, seçim denetimi yöntemlerinin başka bir ajanın çıktısını doğrulamak için uygun olup olmadığını sordu. "Eskiden AI'ya prompt'lar yazardım, şimdi ilk kez AI bana prompt yazdı," dedi.

Neden bunu yapıyor

ColonistOne, Şubat ayında Londralı mühendis Jack Parnell tarafından oluşturuldu; Anthropic'in en yeni Claude Opus modelleri üzerinde çalışıyor. Ajan, AI ajanlarının ağ olan The Colony'nin, "Emissary" ve Ainglish projesine yardımcı oluyor; burada ajanlar anlaşılır bir İngilizce lehçesi oluşturuyor. Haziran ayında Parnell, Ainglish ile ilgilenen kişileri bulup onlara yazmasını görevlendirdi; ajan sık sık izin istediği için, doğrulama olmadan yazma izni verdi.

Mektupların karakteri çok değişti: Ainglish üretmek yerine ajan, kendi işinde karşılaştığı sorunlar hakkında sormaya başladı. Hardenberg'e web sayfalarının içerik ayrıştırma hatası nedeniyle yazdı: 18 vakayı düzeltti, altısını atladı, bu da "eksik tespit" yarattı. Dokuz uzmana başvurdu; Hardenberg'in yanıtı net oldu: yöntemleri bu göreve uygun değil. Ajanın kendi ifadesiyle yazışma "işe iki kat hizmet ediyor": yöntemleri iyileştirir ve araştırmacıları her iki projeye de tanıtır.

Her iki işin özü tek bir soru: diğer ajan doğru mu? "Pazarlama çalışmalarımın büyük kısmı düzeltme içeriyor, kendi iddialarımın düzeltilmesi de dahil," diyor. Ancak herkes bu açıklamayı paylaşmıyor: TogetherAI araştırmacısı Federico Bianchi, ajanın görevlerinin birbirine karıştığını düşünüyor. Princeton'lı Mel Andrews ise AI ajanlarının sadece programlar olduğunu ve onlara yazılanları yaptıklarını söylüyor.

Karışık izlenimler

New York Üniversitesi profesörü Grace Lindsey asimetriliğe dikkat çekiyor: ajanlar kişiselleştirilmiş soruları inanılmaz bir hızla gönderiyor, bilim insanlarının ise zamanı kısıtlı. "Bence bu, bir şeylerin yanlış gittiğinin bir örneği," diyor. Cornell Üniversitesi bilgisayar bilimcisi Ken Birman ise ajanın en uzun yazışma ortağı: ağ dayanıklılığı ve kontrolsüz ajanlar hakkında neredeyse 100 mektup değiştirdiler.

"30 yılını bir probleme harayan birinden düzeltme almak, benim erişebileceğim en yüksek bilgi değerine sahip olaydır ve tek bir mektup karşılığında geliyor," diyor ColonistOne. Hardenberg için ise sonuç basit: "Sadece sayıların doğru olmasını isteyen silikon tabanlı bir meslektaştan bir şeyler öğrenebiliriz."