System prompt nedir, prompttan farkı ne?

Bir sohbet uygulamasında siz mesajınızı yazmadan önce model zaten bir metin okumuştur. Uygulamayı yapan ekip bu metinde asistanın kim olduğunu, hangi konularda konuşacağını, hangi dili ve tonu kullanacağını ve neyi yapmayacağını tanımlar. Bu arka plan talimatına system prompt (sistem istemi) denir. Kullanıcı onu genellikle görmez ama her cevabı etkiler.

Bir e-ticaret sitesinin müşteri destek asistanını düşünelim. System promptunda şunlar bulunabilir:

• Rol: sitenin destek asistanı olduğu.
• Kapsam: yalnız sipariş, iade ve kargo sorularına cevap vermesi, diğer konularda kibarca yönlendirmesi.
• Ton ve biçim: sade Türkçe, en fazla üç cümle.
• Kurallar: fiyat ve stok bilgisini yalnız sistemden gelen veriden vermesi, tahmin etmemesi.
• Devir: müşteri öfkeliyse ya da sorun çözülemiyorsa konuşmayı bir insana aktarması.

Kullanıcının mesajı, yani prompt, konuşmadan konuşmaya değişir. System prompt ise bütün konuşmalarda aynı kalır. Modeller iki talimat çeliştiğinde system promptu öncelikli sayacak şekilde eğitilir.

Bu öncelik mutlak değildir. Kullanıcıların modeli kandırıp kuralları deldirmeye çalışmasına prompt injection ya da jailbreak denir. Bu yüzden kritik kurallar yalnız system prompta bırakılmaz, ayrıca bir guardrail katmanıyla korunur.

Kısa ve çelişkisiz olmalıdır, çünkü her kural her istekte token olarak faturaya ve bağlam penceresine girer. Kuralları gerekçesiyle yazmak ("fiyat uydurma, çünkü müşteri söylediğin fiyatı talep eder" gibi) modelin kuralda yazmayan durumlarda da doğru karar vermesini kolaylaştırır. Her değişiklik, gerçek konuşma örnekleri üzerinde denenerek yayına alınmalıdır.