Embedding nedir? Anlamı sayıya çevirmek

Bilgisayar anlamı doğrudan kavrayamaz, sayılarla çalışır. Embedding, bir metni (ya da görseli, sesi) yüzlerce veya binlerce sayıdan oluşan bir listeye, yani bir vektöre çevirir. Bu dönüşümü yapan modele embedding modeli denir. Vektördeki tek tek sayılar insan için bir şey ifade etmez; önemli olan vektörlerin birbirine göre konumudur.

Bunu bir harita gibi düşünebilirsiniz. Embedding modeli her metne çok boyutlu bir uzayda bir konum verir ve anlamca yakın metinler yakın noktalara düşer. "Kira sözleşmesini feshetmek" ile "ev sahibiyle anlaşmayı bitirmek" ortak kelime taşımasa da yan yana durur. "Kira" ile "banka faizi" ise birbirinden uzak kalır.

İki vektörün ne kadar benzediği genellikle kosinüs benzerliği adlı bir ölçüyle hesaplanır. Sonuç 1'e yaklaştıkça iki içerik anlamca birbirine yaklaşır.

• Anlamsal arama: kullanıcının yazdığı kelimeler belgede birebir geçmese de doğru belgeyi bulmak.
• RAG: soruya en uygun belge parçalarını seçip dil modeline vermek.
• Öneri sistemleri: benzer ürünleri ve benzer içerikleri bulmak.
• Kümeleme ve sınıflandırma: binlerce müşteri yorumunu konulara ayırmak, tekrar eden destek taleplerini tespit etmek.

Yapay zekâ destekli aramalar da içeriği anlam üzerinden eşleştirir. Bir soruya açık ve doğrudan cevap veren sayfalar bu yüzden bu aramalarda daha kolay seçilir; GEO çalışması bu mantığa dayanır.

Birkaç yüz belge için vektörleri basit bir dosyada tutmak yeter. Sayı milyonlara çıkınca en yakın vektörleri hızla bulmak için vektör veritabanı kullanılır.

Bir uyarı: aynı sistemde sorgular ve belgeler aynı embedding modeliyle vektöre çevrilmelidir. Farklı modellerin ürettiği vektörler farklı haritalarda durur ve birbiriyle karşılaştırılamaz.