Oturumu yanınızda götüremezsiniz: AI transkriptleri neden sağlayıcıya bağlanıyor

Metinden fazlasını döndüren bir API

Bir çıkarım API'sinin ilk vaadi basitti: girdiyi gönder, çıktıyı al; ikisini de sakladıysanız konuşma sizin. Onu inceleyebilir, arşivleyebilir, yeniden oynatabilir ya da başka bir modele verebilirdiniz. Bu hiçbir zaman tam olarak doğru değildi — istem önbellekleri başkasının GPU'larında yaşar, tokenizasyon modeller arasında değişir ve örnekleme kasıtlı olarak yeniden üretilemez — ama oturumun anlamsal kaydı yine de kullanıcıya ait olabiliyordu.

“The Session You Cannot Take With You” başlıklı yazıda Earendil Engineering, çıkarım API'lerinin bu özellikten uzaklaştığını savunuyor. Sağlayıcılar giderek metni kendilerine bağlı ve kasıtlı olarak taşınamaz durumla karışık döndürüyor: kullanıcıya faturalanan ama şifreli bloklar halinde gelen akıl yürütme token'ları, modelin istemcinin hiç görmediği kaynakları gördüğü barındırılan web aramaları, yalnızca asıl sağlayıcının çözebildiği sıkıştırılmış bağlam, şifreli yükler içinde saklanan alt ajan talimatları ve tamamen sağlayıcının sunucularında duran kimliklerle anahtarlanan yanıt durumu.

Oturum sahipliği için pratik bir test

Yazı taşınabilirliği ölçülü tanımlıyor: başka bir modelin aynı sonraki token'ı üretmesi değil, dışa aktarılan transkriptin başka bir modelin işe devam edebilmesi için yeterli anlaşılır bilgi taşıması — eski sağlayıcının bir kimliği açmasına, bir bloğu çözmesine ya da bir özeti yeniden kurmasına gerek kalmadan. Ardından beş test geliyor: inceleme (kullanıcı modelin gördüğünü, araçların yaptığını ve ajanların birbirine söylediğini görebiliyor mu), dışa aktarma (oturum kendi kendine yeterli mi), yeniden oynatma (başka bir uygulama anlamsal olarak eşdeğer bağlamı kurabilir mi), denetim (bir insan sistemin neden böyle davrandığını sonradan açıklayabilir mi) ve silme (kullanıcı oturumun bağlı olduğu her sunucu kopyasını bulup kaldırabilir mi).

Mühürlü durum, gizli aramalar, opak sıkıştırma

Earendil adlandırmanın yanıltıcı olduğunu savunuyor: encrypted_content adlı alan gizlilik kontrolü gibi görünse de yalnızca sağlayıcının açabildiği bir kapsüldür — yazarlar buna “sağlayıcı tarafından mühürlenmiş durum” diyor ve bunun veriyi sağlayıcıdan değil sizden gizlediğini vurguluyor. Depolama varsayılanları da aynı yönü gösteriyor: OpenAI'ın Responses API'si yanıtları en az 30 gün saklıyor. OpenAI'ın sunucu tarafı sıkıştırması ise belgelerin “opak ve insan yorumu için tasarlanmamış” dediği bir öğe döndürüyor.

Yedi kural ve asgari özgürlük

Yazı, sağlayıcılar ve ajan geliştiricileri için yedi ilkeyle kapanıyor: yerel olay günlüğü kanoniktir, depolama açıktır, hiçbir opak öğe anlamın tek taşıyıcısı olmamalıdır, barındırılan araçlar tam günlük tutar, alt ajan iletişimi denetlenebilirdir, sıkıştırma incelenebilirdir ve çıktılar dışa aktarılabilir. Yazarlar ayrıca damıtmaya karşı tutumun değişmesini istiyor: onu bir tabu değil, yeteneğin ucuzlayıp yaygınlaşmasının yolu olarak tanımlıyorlar.

İstedikleri asgari şey küçük: kullanıcı hesabını kapatabilmeli, oturumunu saklayabilmeli ve onu başka bir modele devredebilmeli. Yeni model katılmayabilir, soru sorabilir ya da daha kötü çalışabilir; ama eski modelin geçmişi, kanıtları, planları ve devredilen işi gördüğü yerde şifreli metne bakmamalı.