# Guardrail nedir? Yapay zekânın güvenlik bariyerleri — QANATONE > Guardrail, yapay zekâ sisteminin girdisini ve çıktısını denetleyen kurallardır. Modelin konu dışına çıkmasını ve zarar vermesini önler. Kaynak: https://www.qanatone.com/nedir/guardrail-nedir/ --- [Nedir](https://www.qanatone.com/nedir/) # Guardrail nedir? Yapay zekânın güvenlik bariyerleri 15 Eyl 2026 2 dk okuma Güvenlik · Guardrail Guardrail, yapay zekâ sisteminin girdisini ve çıktısını denetleyen kurallardır. Modelin konu dışına çıkmasını ve zarar vermesini önler. ## Guardrail nedir? Otoyoldaki bariyerler aracın yoldan çıkmasını engeller. Yapay zekâda guardrail (koruma bariyeri) aynı işi görür: modelin neyi alıp neyi vereceğine sınır koyan kontrollerdir. Modellerin kendi eğitiminden gelen güvenlik davranışları vardır ama bir ürün için yetmez; ürünü kuran şirketin kendi kurallarına göre ek bir katman gerekir. Bu katmanın neden gerekli olduğunu gösteren bir örnek: 2024'te Kanada'da bir havayolu şirketi, sohbet asistanının bir müşteriye yanlış anlattığı iade politikasından mahkeme kararıyla sorumlu tutuldu. ## Hangi kontroller yapılır? - Girdi kontrolleri: kullanıcı mesajında modeli kandırmaya yönelik talimatlar (prompt injection, jailbreak) aranır, TC kimlik ve kart numarası gibi kişisel veriler maskelenir, konu dışı istekler ayıklanır. - Çıktı kontrolleri: cevabın zararlı, hakaret içeren ya da hukuken riskli olup olmadığına bakılır; fiyat ve stok gibi bilgilerin sistemdeki gerçek veriyle uyuştuğu ve çıktının beklenen biçimde olduğu doğrulanır. - Eylem kontrolleri: [ajanın](https://www.qanatone.com/nedir/ai-agent-nedir/) yapabileceği işlemler sınırlanır, ödeme ve silme gibi adımlar insan onayına bağlanır. ## Nasıl uygulanır? Guardrail'lar farklı katmanlarda kurulur. En basit katman [system prompt](https://www.qanatone.com/nedir/system-prompt-nedir/) içindeki kurallardır ama tek başına güvenilir değildir. Daha sağlam yöntemler, model çağrısının önüne ve arkasına konan ayrı kontrollerdir: kelime ve kalıp filtreleri, sınıflandırıcı modeller (Meta'nın Llama Guard modeli gibi) ya da NVIDIA'nın NeMo Guardrails gibi açık kaynak araçlar. Kritik kararlarda son katman insandır. ## Ölçüyü tutturmak Guardrail'lar [halüsinasyonun](https://www.qanatone.com/nedir/halusinasyon-nedir/) ve kötüye kullanımın etkisini sınırlar. Kuralların dozu da önemlidir: çok sıkı bir set, modeli masum sorulara bile cevap veremez hale getirir ve kullanıcıyı kaçırır. İyi bir guardrail seti gerçek konuşmalarla test edilerek ayarlanır ve düzenli olarak gözden geçirilir. ## Diğer yazılar [Güvenilirlik · Halüsinasyon ### Yapay zekâ halüsinasyonu nedir, neden olur? 15 Eyl 2026 · 2 dk](https://www.qanatone.com/nedir/halusinasyon-nedir/)[Altyapı · Inference ### Inference nedir? Eğitilmiş modelin çalışması 15 Eyl 2026 · 2 dk](https://www.qanatone.com/nedir/inference-nedir/)[Pazarlama · Influencer ### Influencer marketing nedir, nasıl yapılır? 15 Eyl 2026 · 2 dk](https://www.qanatone.com/nedir/influencer-marketing-nedir/)[Performans · Latency ### Latency nedir? Yapay zekâda gecikme ve hız 15 Eyl 2026 · 2 dk](https://www.qanatone.com/nedir/latency-nedir/)[Model Türü · LCM ### LCM (Large Concept Model) nedir? 15 Eyl 2026 · 2 dk](https://www.qanatone.com/nedir/lcm-nedir/)[Model Türü · LAM ### LAM (Large Action Model) nedir? 15 Eyl 2026 · 2 dk](https://www.qanatone.com/nedir/lam-nedir/)[Pazarlama · Temel ### Marketing ne demek? Pazarlamanın anlamı ve 4P 15 Eyl 2026 · 2 dk](https://www.qanatone.com/nedir/marketing-ne-demek/)[Model Türü · MLM ### MLM (Masked Language Model) nedir? 15 Eyl 2026 · 2 dk](https://www.qanatone.com/nedir/mlm-nedir/)