콘텐츠·기술
환각
Hallucination
정의
AI가 사실이 아닌 내용을 그럴듯하게 지어내는 현상이다. 브랜드에 대해 틀린 가격·위치·서비스를 말하는 것도 환각이다.
AI 검색은 답하기 전에 문서를 검색해 읽는 구조라서, AI가 읽을 수 있는 정확한 1차 자료(주소·가격·운영시간을 적은 문장과 구조화 데이터)가 있으면 지어낼 여지가 줄어든다. 없애는 방법은 아니고 줄이는 방법이다.
우리는 리포트를 볼 때 노출 상승보다 잘못된 가격·서비스 설명의 교정을 먼저 본다. 등장률이 올랐는데 AI가 옛 가격을 말하고 있으면, 그건 성과가 아니라 상담 전화마다 해명해야 할 일이 늘어난 것이라서다.
관련 아티클