클라우드2024년 4월 15일1분 읽기

Cloudflare Workers AI 정식 출시 — 엣지에서 AI 추론

YS
김영삼
조회 2602

Cloudflare가 Workers AI를 정식 출시했습니다. 엣지 네트워크에서 직접 AI 모델을 실행할 수 있어 지연시간이 획기적으로 줄어듭니다.

Llama, Mistral 등 오픈소스 모델을 지원하고, 하루 10,000건까지 무료입니다. 간단한 텍스트 분류나 임베딩 생성에는 OpenAI API 대신 쓸 수 있겠습니다.

Cloudflare의 AI 생태계 확장이 빠릅니다. R2 + Workers AI + Vectorize 조합이 꽤 매력적입니다.

댓글 0

아직 댓글이 없습니다.
Ctrl+Enter로 등록