Anthropic, OpenAI ve Google ortak test kurulunu konuşuyor
Üç laboratuvar temmuzdan bu yana bir çalışma grubunda buluşuyor. Masada modelleri çıkıştan önce test edip denetleyecek bağımsız bir kurul var.
Ne konuşuluyor
The Information'ın haberine göre Anthropic, OpenAI ve Google DeepMind temsilcileri temmuzdan beri bir çalışma grubunda bir araya geliyor. Son toplantı geçen hafta yapıldı. Gündemde öncü modellerin piyasaya çıkmadan önce ortak protokollerle test edilmesi, bağımsız değerlendirmeler ve standart risk ölçümleri var. Görüşmeleri en çok Dario Amodei ileri taşıyor.
Fikrin kökü
Fikir Demis Hassabis'in temmuzdaki önerisine dayanıyor. Hassabis, ABD'deki aracı kurumları denetleyen öz düzenleme kuruluşu FINRA'ya benzer, ABD merkezli bir öncü yapay zekâ standartları kurulu önermişti. Modelde devlet gözetimi, sektörün finansmanı ve çıkış öncesi model değerlendirmesi var.
Açık sorular
Sam Altman bir şirket içi toplantıda test ve denetim kuruluşunu desteklediğini söyledi. Ancak ABD hükümeti arkasında durmazsa laboratuvarların bunu kendilerinin kurması gerekeceğini ekledi. Taraflar devletin rolünde ayrışıyor: Anthropic kamuyla ortaklıktan yana, OpenAI gönüllü standartları öne çıkarıyor. Bir de maliyet sorusu var. Uyum yükü, onu en kolay taşıyabilecek büyük şirketlerin konumunu güçlendirebilir.