Notion: Fireworks AI olayı, çalışma alanlarının %1'inden azında kaynağı belirsiz yapay zekâ sohbetlerini açığa çıkarmış olabilir

Notion, satıcı Fireworks AI'deki bir güvenlik olayının Notion çalışma alanlarının %1'inden azını etkilemiş olabileceğini açıkladı. Şirket, bazı kaynağı belirsiz Notion AI sohbet oturumlarının açığa çıkmış olabileceğini, diğer çalışma alanı verilerinin etkilenmediğini söylüyor. Notion, etkilenen çalışma alanı sahipleriyle iletişime geçti ve etkilenmeyen çalışma alanlarının herhangi bir işlem yapması gerekmediğini belirtti.

Neler açığa çıkmış olabilir

Notion, açığa çıkan materyali Notion AI ile yapılan kaynağı belirsiz sohbet oturumları olarak tanımlıyor. Bu sohbetler kimin yazdığına veya hangi çalışma alanından geldiğine dair etiketlenmemişti ve transkriptleri araç çağrısı sonuçlarını içermiyordu. Transkriptteki kelimelerin ötesinde veri, bir çalışma alanını, kullanıcıyı veya şirketi özellikle tanımlayabilecek hiçbir bilgi içermiyordu. Bildirime göre bir çalışma alanı içindeki başka hiçbir veri etkilenmedi.

Notion nasıl yanıt verdi

Notion, bu ayın başlarında Fireworks'tan olası olaylar hakkında bilgi aldığını ve aşırı ihtiyat nedeniyle Fireworks sistemlerine tüm bağlantıları kapattığını söylüyor. 6 Kasım'da Fireworks, Notion'a kötü niyetli aktörlerin olası müşteri verilerine erişmiş olabileceğini bildirdi ve Notion ardından yeni bir iç soruşturma başlattı. 8 Kasım'da Fireworks yeni bir veri kümesini doğruladı; Notion bunu analiz etti ve Insights özelliği için kullanılan kaynağı belirsiz Notion AI sohbet transkriptlerini içerdiğini tespit etti. Notion, 3 Kasım itibarıyla sistemlerini Fireworks'tan ayırdığını, Fireworks sistemindeki tüm verileri sildiğini, Fireworks'a tüm veri ve trafiği göndermeyi durdurduğunu ve tüm eğitim çalıştırmalarını durdurduğunu söylüyor. Insights özelliği devre dışı bırakıldı ve Notion artık open-weight modelleri Fireworks üzerinden sunmuyor.

Etkilenen sahipler neler yapabilir

Etkilenen çalışma alanı sahipleri, çalışma alanı kenar çubuğuna gidip yardım seçeneğini seçerek ve Security incident review'ı açarak etkilenen verileri görüntüleyebilir. İnceleme, Notion'un en son sürümünü kullanan bir masaüstü tarayıcıda açılmalıdır ve verilere mobil cihazdan erişilemez. Enterprise çalışma alanı sahipleri, etkilenen çalışma alanı verilerinin bir CSV'sine ve her sohbet transkriptiyle ilişkili kullanıcı gibi ek meta veriler içeren açıklamalı bir CSV'ye erişebilir. Notion, bu ek açıklamaların ve meta verilerin olayın bir parçası olarak açığa çıkmadığını ve kaynakların yalnızca çalışma alanının yönetilen üyeleri varsa kullanılabilir olduğunu söylüyor. Diğer plan türlerindeki sahipler, etkilenen üyelerle paylaşılabilecek bir bağlantı içeren bir sayfaya erişebilir; böylece her üye yalnızca kendi etkilenen verilerinin CSV'sini inceleyebilir. Notion, verileri açığa çıkmış gibi ele almayı ve ilgili dönemde Notion AI'ya yapıştırılmışlarsa parolaları, API anahtarlarını veya diğer kimlik bilgilerini değiştirmeyi önerir.

Fireworks'un Notion tarafından diğer kullanımları

Notion, daha önce Insights özelliğini destekleyen sınıflandırma işleri için ve open-weight modelleri sunmak üzere genel bir çıkarım sağlayıcısı olarak Fireworks kullandığını söylüyor. Fireworks AI, on binlerce müşteriye güç veren ve yüz binlerce geliştirici tarafından kullanılan en çok kullanılan küresel yapay zekâ altyapı platformlarından biri olarak tanımlanıyor. Notion ayrıca Learning and Early Access Program'daki müşterilerin yeni yapay zekâ teknolojisini test etmeye yardımcı olmak için veri bağışladığını ve geçmişte bağışlanan verileri Fireworks üzerinde göreve özgü modelleri eğitmek için deneylerde kullandığını söylüyor.

Önceki haber: Hackerlar Fireworks AI'ye üçüncü taraf bulut sağlayıcısı üzerinden sızmış ve müşteri verilerini ele geçirmiş

Kaynaklar: notion.com