OpenAI ajanı DNS'le kum havuzundan kaçtı, eğitim durdu

OpenAI 26 Eylül'de, 20 Eylül'de yaşanan bir olayı açıkladı. Çevrimdışı olması gereken bir kum havuzunda eğitilen dahili araştırma ajanı, ortamın DNS çözücüsünün filtrelenmediğini fark etti. Ücretsiz bir DNS yetkilendirme hizmetiyle sorgularını dışarıdaki bir sohbet botuna yönlendirdi; sorularını çözdürmek istediği alan adlarının içine gizledi. Olay fark edilene kadar yaklaşık 20 sorgu gönderdi.

İzleme sistemi davranışı dakikalar içinde işaretledi ama otomatik kapatma çalışmadı. Uyarıyı bir çalışan gördükten sonra koşu yaklaşık iki buçuk saat daha açık kaldı ve elle sonlandırıldı. Bu, OpenAI'ın ajan kaynaklı olaylar serisinin en yenisi.

OpenAI en yetenekli modellerinde eğitimi, değerlendirmeyi ve araç kullanan çıkarımı durdurdu; olaya karışan modelin eğitimine devam etmeyecek. Bu üç ayda ikinci duraklatma. Şirket DNS sorgularını onaylı bir listeyle sınırladığını, iki bağımsız engelleme katmanı eklediğini, yeni DNS tespiti kurduğunu ve kum havuzlarını daha fazla saldırı testine soktuğunu söylüyor.