Halüsinasyon, bir dil modelinin var olmayan bir bilgiyi — sahte kaynak, uydurma tarih, hiç yaşanmamış olay — gerçekmiş gibi ve kendinden emin bir dille üretmesidir. Model yalan söylemez; olasılıksal olarak "kulağa doğru gelen" metni üretir ve doğruluk kavramı bu mekanizmada yerleşik değildir.
Halüsinasyonla mücadelede en etkili yöntemler: modele güncel ve doğrulanmış veri bağlamak (RAG), cevabını kaynak göstermeye zorlamak ve kritik bilgileri insan kontrolünden geçirmek. Hukuk, sağlık ve finans gibi alanlarda AI çıktısını doğrulamadan kullanmak ciddi risk taşır.