본문 바로가기

TECH NOTES

기술노트

현장에서 검증된 개발 지식을 기록합니다.

전체 2건
2
AI3분 읽기
Databricks Mosaic AI Gateway — 모델 호출 통합 라우팅 사후
Mosaic AI Gateway production 운영. OpenAI·Anthropic·Vertex·Bedrock 통합 라우팅 + 비용 capping + audit log.
#Databricks#Mosaic#AIGateway
2026.05.30
1
Infra4분 읽기
Envoy AI Gateway — LLM 라우팅·할당량·레이트 리밋 프로덕션
Envoy AI Gateway로 멀티 LLM 프로바이더 라우팅·팀별 할당량·토큰 기반 레이트 리밋을 한 곳에서. 사내 운영 6개월.
#Envoy#AIGateway#LLM
2026.05.21