Hallucination เกิดขึ้นเมื่อโมเดล AI โดยเฉพาะ LLM ตอบคำถามหรือสร้างเนื้อหาโดยแต่งข้อมูลขึ้นมาเอง แม้ว่าจะไม่มีข้อมูลนั้นในฐานความรู้ที่มันเรียนมา ปัญหานี้เกิดจากที่โมเดลถูกออกแบบมาให้สร้างคำตอบที่ดูเป็นธรรมชาติและน่าเชื่อถือ แต่บางครั้งมันก็พยายามตอบให้ได้แม้จะไม่แน่ใจในคำตอบ ทำให้ได้ข้อมูลที่ผิดพลาดแต่ดูสมจริงมาก
ตัวอย่างที่เจอบ่อยคือ ถามชื่อหนังสือหรืองานวิจัยที่ไม่มีอยู่จริง AI อาจแต่งชื่อผู้แต่ง ปีที่ตีพิมพ์ และรายละเอียดต่างๆ ให้อย่างละเอียด หรือถามเกี่ยวกับข้อเท็จจริงทางประวัติศาสตร์ มันอาจสลับเหตุการณ์หรือบิดเบือนรายละเอียด นี่คือเหตุผลที่เราต้องตรวจสอบข้อมูลจาก AI เสมอ โดยเฉพาะเรื่องสำคัญหรือต้องการความแม่นยำสูง และเป็นหนึ่งในตัวชี้วัดสำคัญในการประเมินคุณภาพของโมเดล AI ด้วย