RAG 환각 줄이기: 인용 강제와 근거 검증 파이프라인
RAG(검색 증강 생성)를 붙이면 환각(hallucination)이 저절로 사라진다는 기대는 대체로 배신당합니다. 검색으로 관련 문서를 넣어 줘도 모델이 그 문서만 근거로 답한다는 보장은 없기 때문입니다. 모델은 검색된 근거와…
8 min read
RAG(검색 증강 생성)를 붙이면 환각(hallucination)이 저절로 사라진다는 기대는 대체로 배신당합니다. 검색으로 관련 문서를 넣어 줘도 모델이 그 문서만 근거로 답한다는 보장은 없기 때문입니다. 모델은 검색된 근거와…