Few-shot prompting nedir? Örnekle öğretmek
Few-shot prompting, prompta birkaç çözülmüş örnek eklemektir. Model kalıbı örneklerden yakalar ve aynı biçimde cevap verir.
Few-shot nedir?
Birine yeni bir iş öğretirken uzun uzun anlatmak yerine çoğu zaman iki üç örnek gösterirsiniz. Few-shot prompting aynı fikre dayanır: prompta görevin çözülmüş birkaç örneğini koyarsınız, model kalıbı örneklerden çıkarır. Tek örnek verilirse one-shot, hiç örnek verilmezse zero-shot denir.
Dil modellerinin yeniden eğitilmeden, yalnız prompttaki örneklerden yeni bir görevi öğrenebilmesine in-context learning (bağlam içi öğrenme) denir. Bu yetenek 2020'de yayımlanan GPT-3 makalesiyle geniş kitlelerin gündemine girdi; makalenin başlığı da "Language Models are Few-Shot Learners" idi.
Bir örnek
Görev: müşteri yorumlarını olumlu, olumsuz ya da nötr diye etiketlemek. Prompt şöyle kurulabilir:
- Yorum: "Kargo bir günde geldi, paket özenliydi." Etiket: olumlu
- Yorum: "Ürün fotoğraftakinden küçük çıktı." Etiket: olumsuz
- Yorum: "Siparişi verdim, henüz kullanmadım." Etiket: nötr
- Yorum: "Rengi güzel ama kumaşı ilk yıkamada soldu." Etiket: ?
Model son yoruma, örneklerde gördüğü biçimde tek kelimelik bir etiket yazar. Aynı soruyu örneksiz sorsaydınız uzun bir açıklama da gelebilirdi.
Ne zaman işe yarar?
Çıktının biçimi önemliyse (belirli bir JSON yapısı, sabit bir etiket listesi ya da markanıza özel bir üslup) few-shot çoğu zaman en ucuz ve hızlı çözümdür. Sınırda kalan durumları örneklere katmak, yukarıdaki "rengi güzel ama" yorumunda olduğu gibi, modele kararsız kaldığı yerde nasıl davranacağını gösterir.
Dikkat edilecekler
Örnekler çeşitli olmalıdır; hepsi olumlu yorumsa model olumluya kayar. Modeller örneklerin sırasından da etkilenir ve son örnek cevabı özellikle etkiler. Her örnek token harcar. Onlarca örnek gerekmeye başladıysa aynı iş için fine-tuning daha ekonomik hale gelebilir.