핵심 요약
환각은 모델이 사실 여부와 무관하게 그럴듯한 답을 만들어내는 현상이다. 0으로 만들 순 없지만 ① 답의 근거를 컨텍스트로 제공(RAG)하고 "근거 밖이면 모른다고 답하라"고 지시, ② 출력을 구조화(인용·출처), ③ 중요한 답은 별도 검증으로 크게 줄일 수 있다.
1. 억제 레버
| 방법 | 효과 |
|---|---|
| 근거 제공(RAG) | 지식 추측 → 문서 기반 |
| "모르면 모른다" 지시 | 억지 답 감소 |
| 출처/인용 강제 | 검증 가능성↑ |
| 온도 낮춤 | 창작성↓(사실형 작업) |
2. 구조
- "제공된 컨텍스트에만 근거해 답하고, 없으면 '자료에 없음'"
- 답에 사용한 출처 ID를 함께 출력하게
- 수치·고유명사는 후처리로 원문 대조
3. 함정
- RAG라도 관련 없는 청크가 들어오면 그걸로 환각 — 검색 품질이 먼저
- 온도 0이어도 환각은 난다(완전 제거 아님)
- 모델에게 "확실하냐"고 물어 얻은 확신은 신뢰도 지표가 아니다
자주 묻는 질문
온도를 0으로 하면 환각이 없어지나요?
줄지만 사라지지 않습니다. 온도는 다양성을 낮출 뿐 사실성을 보장하지 않습니다. 근거 제공과 검증이 더 효과적입니다.
"모르면 모른다고 해"가 정말 통하나요?
특히 RAG와 함께 쓰면 효과가 있습니다. 컨텍스트에 답이 없을 때 억지 생성 대신 "자료에 없음"을 택할 확률이 올라갑니다. 다만 100%는 아니므로 중요한 답은 검증하세요.
댓글 0