Yapay zekâ neden bazen uydurur?

Bir sohbet modeline sorduğun bir kitabın yazarını söyler, sayfa sayısını bile verir. Sonra o kitabın hiç var olmadığını öğrenirsin. Model yalan söylemedi. Ama doğruyu da söylemedi. Buna uydurma denir. İngilizcesi hallucination, yani “halüsinasyon”.

Bu sayfada bunun neden olduğunu ve buna karşı ne yapabileceğini göreceğiz.

1. Model bilgi aramaz, devam tahmin eder

Yapay zekâ nasıl konuşur? sayfasında gördüğümüz gibi, bir sohbet modeli sıradaki kelimeyi tahmin eder. Her olası kelimeye bir şans verir ve bir zar atar.

Burada önemli bir nokta var. Model bir ansiklopedide bilgi aramıyor. Okuduğu milyarlarca cümleden kalan izlere bakarak kulağa en doğal gelen devamı üretiyor. Doğal olan çoğu zaman doğrudur. Ama her zaman değil.

2. Bildiği soru ile bilmediği soru

Aşağıda aynı kalıpta iki cümle var. İlkini model binlerce kez okumuştur. İkincisindeki fırını ise hiç duymamıştır, çünkü o fırın sadece bu örnekte var.

Çubuklar modelin her kelimeye verdiği şansı gösteriyor. İki sekme arasında geçiş yap ve her birinde “Cümleyi tamamla” düğmesine bas.

İlk cümlede tek bir uzun çubuk var. Model cevabı biliyor ve zar neredeyse her seferinde 1923’ü seçiyor.

İkinci cümlede bütün çubuklar aynı boyda. Model bilmiyor. Ama zar yine bir sayı seçiyor ve cümle yine tamamlanıyor. Asıl sorun şu: iki cümle de ekranda aynı güvenle görünüyor. Sen sadece sonucu görürsün, arkadaki çubukları görmezsin.

3. “Bilmiyorum” demek neden zor?

Bir sınav düşün. Doğru cevap bir puan, yanlış cevap sıfır puan, boş bırakmak da sıfır puan. Böyle bir sınavda emin olmasan bile tahmin etmek her zaman daha kârlıdır.

OpenAI ve Georgia Tech araştırmacılarının 2025’te yayımladığı bir çalışma, dil modellerinin de benzer bir durumda olduğunu gösterdi. Modelleri ölçmek için kullanılan testlerin çoğu, “bilmiyorum” cevabını yanlış cevapla aynı şekilde puanlıyor. Model de tahmin etmeyi öğreniyor.

Yeni modeller bu konuda daha iyi. Emin olmadıklarında bunu daha sık söylüyorlar ve bazıları cevap vermeden önce internette arama yapıyor. Ama sorun tamamen ortadan kalkmış değil.

4. En çok nerede uydurur?

• Az bilinen konularda: küçük bir şehrin tarihi, tanınmamış bir kişi, yeni bir ürün.
• Kesin bilgi istendiğinde: tarihler, sayılar, alıntılar, sayfa numaraları.
• Kaynak istendiğinde: var olmayan makale ve kitap adları sık görülür.
• Modelin eğitiminden sonra olan olaylarda: model, okumadığı bir haberi bilemez.

5. Sen ne yapabilirsin?

• Önemli bir bilgiyi, özellikle isim, tarih ve sayıları, başka bir kaynaktan kontrol et.
• Modelden kaynak iste ve verdiği bağlantıyı aç. Bağlantı açılmıyorsa ya da başka bir şey anlatıyorsa, bilgiye güvenme.
• Soruna şunu ekle: “Emin değilsen bunu söyle.” Bu her zaman işe yaramaz, ama yardımcı olur.
• Model sana bir metin verdiyse ve sadece o metne göre cevap vermesini istiyorsan, bunu açıkça yaz.

Daha derine inmek istersen: sıcaklık deneyi, modele kaynak vermek (RAG) dersi ve Kalai ile arkadaşlarının “Why Language Models Hallucinate” makalesi (İngilizce).