Anthropic'in yapay zeka laboratuvarı keşif duyurdu, biyologlar itiraz ediyor

Anthropic geçen çarşamba, bu yılın başında kurduğu moleküler biyoloji laboratuvarının ilk keşfini yaptığını duyurdu. Laboratuvarda Claude ajanları zor biyoloji problemleri üzerine okuyup tahmin yürütüyor, insan bilim insanları ise onların bildirdiklerini deneylerle sınıyor.

Ajanlar aslında ne buldu

21 saat sonra 950 ajandan oluşan sistem yepyeni bir DNA dizisi sunmadı. Bilinen bir enzimin çevresindeki tekrarlayan bir örüntüye işaret etti; şirkete göre bu örüntü daha önce kataloglara girmemişti. Anthropic'in duyurusunda örüntü, şirketin ifadesiyle "bilim ve tıbbı çoktan dönüştürmüş olan" gen düzenleme teknolojisi CRISPR'a giden çalışmaları "andırıyordu".

Bu çerçeveleme bazı biyologları kızdırdı. Daha sonra ilaç şirketi Eli Lilly'nin yönetim kurulu başkanı ve CEO'sunun da desteklediği Lucas Harrington'ın viral paylaşımı şöyle diyordu: "Tuhaf bir gen ve tekrar kümesi bulmak çoğu zaman işin kolay kısmıdır. Zor kısmı ve gerçek keşiflerin geldiği yer, bu sistemin aslında ne yaptığını çözmektir." Ona göre ajanlar laboratuvarın angarya işlerine yardım etti, ama bu bir keşif değil.

Daha önce yapılmış bir iddia

Hafta sonu Kopenhag Üniversitesi'nden biyolog Mario Rodríguez Mestre, ekibinin aynı örüntüyü zaten bulduğunu söyledi; haberi New York Times verdi. İşinde sık sık Claude ile konuşan Mestre, Anthropic araştırmacılarının bu sohbetlerden öğrenip öğrenmediğini merak ediyor. Şirket bunu reddediyor, ancak Mestre yine de Claude kullanımını tamamen bıraktığını söylüyor.

Tartışma tek bir örüntüyle sınırlı değil. Yapay zeka şirketleri sistemlerini bilim insanlarının mikroskop ya da süper bilgisayar gibi kullanacağı araçlar olarak sunmuyor. Modellerin keşifleri kendilerinin yaptığını savunuyorlar. Bazı araştırmacılara göre bu, bilginin genellikle işbirliğinden ve büyüyen bir araç setinden doğduğu bilim pratiğiyle bağdaşmıyor.

Çerçeveleme neden önemli

200.000 adayı incelenmeye değer birkaç tanesine indirmek gerçek bir bilimsel iştir. Genel amaçlı bir sohbet botunun bunun bir kısmını yapabilmesi, insanlar süreci yönlendirip deneyleri kendileri yürütse bile dikkat çekicidir. Ancak soru "keşfi Claude mu yaptı" olduğunda tartışma iki cevaba sıkışıyor: atılım ya da başarısızlık. Böyle bir çerçeve, gerçek bir başarıdan sonra bile hedefi kaydırmayı davet ediyor.

Benzeri bu ayın başında yaşandı: OpenAI ekip ajanlarının bir milyon dolarlık matematik problemini çözdüğünü söyledi, iki hafta sonra ise şüpheciler çözülen problemin matematikçilerin gerçekten önemsediği problem olup olmadığını soran bir makaleyi paylaşıyordu.

Harrington paylaşımını bir öneriyle bitirdi: yapay zeka şirketleri "çıtayı şimdiden yükseğe koymalı ki AI gerçekten temelden yeni bir biyolojik mekanizma keşfettiğinde herkes bunun ne kadar büyük bir olay olduğunu anlasın". OpenAI'dan Sam Altman ile Anthropic'ten Dario Amodei birbirini geçmeye çalışırken, çıtayı yükseltmek akıllarındaki son şey olabilir.