AI(인공지능)가 잘못되거나 조작된 정보를 마치 사실인 것처럼 만들어내는 현상. 

영어로 환각, 환영, 환청을 뜻한다. 할루시네이션은 생성형 AI의 특성상 필연적인 오류로 여겨지는데, 이는 생성형 AI가 광범위한 데이터를 학습할 때 각 데이터의 진위를 정확히 확인하지 못하기 때문이다. 

이로 인해 AI가 가짜 뉴스나 정보를 생성하고 유포하는 데 악용될 수 있으며, AI 시스템에 대한 사용자의 신뢰를 약화시키는 원인이 되기도 한다는 점에서 매우 주의가 요구된다. 

실제로 도널드 트럼프 전 미국 대통령의 측근인 마이클 코언이 지난해 12월 구글의 AI 챗봇인 ‘바드’를 활용한 가짜 판례를 맨해튼 연방법원에 제출했다가 망신을 당한 바 있다.