본문 바로가기

TECH NOTES

기술노트

현장에서 검증된 개발 지식을 기록합니다.

전체 1건
1
AI7분 읽기
시맨틱 캐싱 — LLM 응답을 임베딩으로 재사용해 비용 줄이기
같은 뜻 다른 표현의 질문에 과거 답을 재사용하는 시맨틱 캐싱. 유사도 임계값 튜닝, 캐시하면 안 되는 질문, 프롬프트 캐싱과의 차이를 실전 로그 기반으로 정리.
#시맨틱 캐싱#semantic cache#LLM
2026.08.22