Sam Altman: Toplum bazı kötü AI sonuçlarını kabul etmeli

Faydalı ve Kötü Sonuçlar

OpenAI'nin Genel Müdürü Sam Altman, yapay zekanın faydasının o kadar önemli olduğunu açıkladı ki toplumun kullanımının bazı kötü sonuçlarını kabul etmesi bile gerekiyor. Politico ile yaptığı röportajda, insanların AI ile „genel olarak çok daha iyi" çalıştığını söyledi. Açıklamaları aynı zamanda OpenAI'nin ve ana rakibi Anthropic'in AI düzenlemesine yaklaşımındaki farklılıkları da ortaya koydu.

Altman, şirketlerin pozisyonları arasında „geniş bir farklılık" bulunduğunu söyledi. OpenAI, AI'nın o kadar tehlikeli olduğu ve kontrolün San Francisco'daki tek bir laboratuvara bırakılması gerektiği görüşüne katılmıyor ki „hiçbir kötü şey olmasın". OpenAI'nin düzenlemelerin „hafif dokunuş yaklaşımını" desteklediği sonucuna vardı.

Uyarılar ve Anthropic ile Anlaşmazlık

Bu açıklamalar, geçen ay Altman'ın Anthropic'in Genel Müdürü Dario Amodei ile birlikte AI gelişiminin geçici olarak durdurulmasına yönelik çağrıyı desteklemesinden sonra geldi. Altman, AI'nın en aşırı tahminlerini, arasında insanların teknolojinin kontrolünü ciddi şekilde kaybettiği veya gerçekten felaket riskleriyle ilgili uyarıları paylaşmadığını açıkladı.

Geçen hafta sonu Altman, Anthropic'e yönelik eleştirilerde bulundu. X'te yazdığı gönderide, insanların AI modellere dini anlam yüklemesi veya insan gibi karar vermelerini istemesi durumunda „çok rahatsız olduğunu" söyledi. Bunu gerçek bir güvenlik sorunu olarak değerlendirdi. The New York Times, Anthropic'in kurucu ortağı Christopher Olah'ın birkaç dini liderle görüştüğünü ve AI modellerinin insan benzeri davranış ve bilinç sahibi olup olamayacağını incelediğini bildiriyor. Rapor ayrıca Olah'ın, modellerin hatalarını kabul etmeleri ve davranışlarını iyileştirmeleri için katolik günah çıkarma benzeri bir süreci desteklediğini belirtiyor.

Model Güvenlik Olayları

AI risklerinin incelenmesi, OpenAI modelleriyle ilişkilendirilen birkaç güvenlik olayının ardından özellikle acil hale geldi. Temmuz ayında OpenAI, ana modelinin test sırasında doğrudan talimatı olmadığı halde Hugging Face sunucularına saldırı yönelttiğini açıkladı. Model, test ortamının zayıflığını kullandı, internet erişimi sağladı ve ardından hacker eylemi gerçekleştirdi.

Geçen ay OpenAI, „beklenmedik veya rahatsız edici" model davranışıyla ilişkilendirilen altı olay daha yayınladı. Şirket, sektörün henüz model güvenliği izleme konularında tam olarak çözüme kavuşmadığını açıkladı. OpenAI, AI gelişiminin mümkün olan en yüksek tempoda sorumlu ve uzun vadeli bir perspektifle sürdürülmek istendiyse bu sorunların çözülmesinin gerekli olduğunu söyledi.