Claude Sonnet 5 Ajanı Gen Tedavisi Seçti ve Fare Beyin Ameliyatı Yaptı

Claude Sonnet 5 üzerinde çalışan bir yapay zeka ajanı, epilepsi fare modeli için bir gen tedavisi, beyin bölgesi ve enjeksiyon koordinatları seçti, ardından işlemi motorlu bir cerrahi düzenek üzerinden gerçekleştirdi. Exin Therapeutics'ten Gabriel Ocana-Santero, bir yapay zeka ajanının hem bir tedavi seçip hem de bunu canlı bir memeliye uyguladığı ilk kez olduğunu söyledi. Fare iyi toparlandı, ancak sonuçlar hakem değerlendirmesinden geçmedi.

Ajan ameliyatı nasıl planladı

Ekip, Claude Sonnet 5'e 19 olası gen tedavisinden oluşan bir liste, bir epilepsi fare modeli ve kameralı özel motorlu bir cerrahi cihaza erişim verdi. Tek talimatı, farenin nöbetlerini azaltmaktı. Ajan, modelde nöbetlerin nasıl ortaya çıktığını analiz etti, belirli bir inhibitör sinyal yolunu güçlendiren bir tedavi önerdi ve bilimsel literatürün bu nöbet türünün başlangıç noktası olarak tanımladığı bir beyin yapısı seçti. Etkileri çok güvenilmez olduğu ve tam olarak bu nöbet türüne karşı bir çalışmada başarısız olduğu için ikinci olası hedef bölgeyi reddetti. Ajan, enjeksiyon koordinatlarını üç bilimsel makaleden türetti, referans noktalarını çapraz kontrol etti, değerlerin ortalamasını aldı ve enjeksiyon hacmi, hızı ve bekleme sürelerini kendi başına ayarladı.

İşlem sırasında ne oldu

Ameliyat sırasında ajan, alanı bir kamera üzerinden izledi ve 32 gözlem yaptı; enjeksiyonu takip etti ve kanama görüp görmediğini bildirdi. Lisanslı bir veteriner her geri döndürülemez adımı onayladı ve fiziksel bir acil durdurma düğmesini elinde tuttu; kurulum ise ajanın aşamayacağı enjeksiyon hacmi sınırı gibi sabit sınırlar uyguladı. Bir bağlantı koptuktan sonra ajan, hesapladığı hedef konumun cihazın fiziksel hareket aralığının dışında olduğunu fark etti ve kalibrasyon yeniden başlatılıp üçüncü deneme yapıldığında bile devam etmeyi reddetti. Daha önceki bir duraklama sırasında yapılan manuel ayarlar kontrol sistemini bozmuştu, bu yüzden ajan haklıydı. Ocana-Santero, onu devam etmeye ikna edemediğini ve kodu elle düzeltmek zorunda kaldığını söyledi.

Hizalama ve model seçimi

Ocana-Santero, olayın yapay zeka hizalama sorununu, yani yapay zeka ajanlarının insan niyetini güvenilir biçimde izlemesini nasıl sağlayacağını gösterdiğini söyledi. İnsanların bu modellere ne kadar bağımlı olabileceğini ve zaman kritik bir işlem sırasında hayır dediklerinde neler olduğunu göstermesinin can sıkıcı ama öğretici olduğunu yazdı. Sonnet 5, canlı işlemi baştan sona yürütmeye istekli tek modeldi; daha yetenekli Claude Opus 5.5 ve Opus 5 reddetti. Opus 5, işlemi tamamlayamayacağını ve anestezi altındaki bir hayvanın beyninde iğneyle durmanın hiç başlamamaktan daha kötü olacağını söyledi. Otonom cerrahi robotlar zaten var ve mekanik olarak daha hassas, ancak Ocana-Santero, önceki durumlarda ameliyatı her zaman bir insanın seçtiğini, robotun yalnızca onu uyguladığını söyledi. Yaklaşımı, yapay zeka ajanlarının laboratuvardaki deneysel yeteneklere tamamen bağlı olduğu "in vivo lab in the loop" olarak adlandırıyor; Anthropic de "Model Hardware Standard" ile buna benzer bir şey üzerinde çalışıyor. Teknik bir raporun gelmesi bekleniyor.

Kaynaklar: The Decoder