AI Sözlük
Hallucination (Halüsinasyon) Nedir?
AI halüsinasyonu, modelin bilinçli yalan söylemesi değil; belirsizlikte bile akıcı ve ikna edici metin üretmesi sonucu ortaya çıkan asılsız iddialardır.
Tanım
Halüsinasyon, büyük dil modellerinin en bilinen risklerinden biridir. Model bir kaynak numarası, tarih, mahkeme kararı veya API ismi uydurabilir; cümle gramer olarak kusursuz, içerik olarak yanlış olur. Mekanik olarak model “doğruyu aramaz”; eğitim dağılımında olası devam token’larını seçer. İnsan geri bildirimi ve sohbet formatı da boşlukları dolduran, özgüvenli cevapları ödüllendirebilir. Bu yüzden “model yalan söyledi” demek niyet atfeder; mühendislik diliyle model, belirsizliği dil ile maskelemiştir. Azaltma yolları: RAG ile kaynak bağlama, araç kullanımı (hesap makinesi, arama), düşük temperature, ret politikası ve insan doğrulaması.
Kritik alanlarda (sağlık, hukuk, finans) halüsinasyon riski kabul edilemez seviyede olabilir. Bu alanlarda tek model cevabına güvenmek yerine kanıt, araç ve uzman onayı gerekir.
Ölçüm için tuzak sorular, kaynaklı cevap eval’leri ve “bilmiyorum” oranları kullanılabilir. Sadece “kulağa doğru geliyor” testi yeterli değildir.
Sık sorulanlar
Model bilerek mi uydurur?
Hayır. Bilinçli niyet yoktur. Akıcı dil üretme hedefi, boşlukta da metin üretir.
Nasıl azaltılır?
RAG, citation, tool-use, düşük T, self-check ve insan onayı. Tam yok etme garantisi yoktur.