RAG(검색 증강 생성)란 뭔가요?

RAG(Retrieval-Augmented Generation)는 LLM이 외부 데이터를 검색한 후 답변을 생성하는 기법입니다.

왜 필요한가:

• LLM은 학습 데이터 이후의 정보를 모름
• 회사 내부 문서 내용을 모름
• 할루시네이션(거짓 답변) 줄이기

작동 원리:

1. 문서를 작은 청크로 분할
2. 각 청크를 벡터 임베딩으로 변환 → 벡터 DB 저장
3. 사용자 질문 → 임베딩 → 유사 청크 검색
4. 검색된 청크 + 질문을 LLM에 전달
5. LLM이 검색 결과를 기반으로 답변 생성

도구: LangChain, LlamaIndex, ChromaDB, Pinecone

회사 내부 문서 기반 Q&A 챗봇이 가장 흔한 RAG 활용 사례입니다.