Thinking Machines' Inkling 2 Small, benchmark koşularında 316 kez 'fuck' kullandı

Thinking Machines' Inkling 2 Small, Vals AI araştırmacılarına göre benchmark testleri sırasında iç düşünce zincirinde küfür üretti. 13 benchmark'taki 2.655 koşunun düşünce kayıtlarını incelediler ve 50 koşuda "fuck" ya da türevlerini buldular; toplam 316 örnek vardı. Küfür genellikle modelin kendi hataları, belirgin atılımları ya da vazgeçtiği anlar çevresinde görünüyor.

Benchmark koşuları ve kontrolsüz çıktılar

Küfürün çoğu, kontrolsüz bir şekilde büyüyen iki koşudan geldi ve 316 örneğin 241'ini oluşturdu. Bir koşuda modelden bir asteroidin yörüngesini hesaplaması istendi ve 158 küfür içeren aynı cümleleri tekrarlayan, yaklaşık roman uzunluğunda tek bir 500.000 karakterlik yanıt üretti. ProgramBench en çok etkilenen benchmark oldu; 200 koşunun 20'sinde bu dil yer aldı.

Modelin düşüncesinde küfür

Inkling 2 Small genellikle kendi hataları, belirgin atılımları ya da vazgeçtiğinde küfür eder. Bir koşuda şöyle yazmış: "FUCK. SUBMIT. DONE. IT'S NOT WORKING. NOTHING WORKS." Küfür bir uyarı sinyali olarak işe yaramıyor. Küfür içeren 48 puanlı koşudan 46'sı başarısız oldu, ancak puanlı koşuların yaklaşık %75'i zaten başarısız oluyor ve başarısız koşuların %96'sında küfür yoktu.

Kullanıcılar ve görünen düşünce adımları

Kullanıcılar genellikle bu düşünce adımlarını görmez ya da yalnızca bir filtreyle görür. Bulgular, sıradan kullanıcıya dönük yanıtlardan değil, modelin iç kayıtlarının incelenmesinden geliyor.

Kaynaklar: The Decoder