Benzerlik ve arama
Lab · Benzerlik ve aramacos(q, d) = q·d / ‖q‖‖d‖
- 0.231Aşırı öğrenme, modelin eğitim verisini ezberleyip yeni veride kötüleşmesidir.
- 0.102Transformer modelleri dikkat mekanizmasıyla her token'ın diğerlerine ne kadar bakacağını hesaplar.
- 0.081Tokenizer metni modelin anlayacağı sayısal parçalara böler.
- 0.070Gradyan iniş, kaybı azaltmak için parametreleri eğimin tersi yönünde günceller.
- 0.057RAG, soruya en benzeyen belgeleri bulup modele bağlam olarak verir.
- 0.023Mangala, Türk kurallarıyla oynanan iki kişilik bir akıl oyunudur.
Kırmızı çerçeveli satırlar, bir RAG sisteminde modele “bağlam” olarak verilecek belgeler. Burada vektörler karakter üçlülerinden (TF-IDF) üretiliyor, yani yazım benzerliğine bakıyor. Gerçek gömme (embedding) modelleri anlama bakar: “ezber” ile “aşırı öğrenme”yi ortak harf olmasa da yakın bulur. Bu farkı görmek için soruyu eş anlamlılarla yeniden yaz.