Cloudflare가 Workers AI를 정식 출시했습니다. 엣지 네트워크에서 직접 AI 모델을 실행할 수 있어 지연시간이 획기적으로 줄어듭니다.
Llama, Mistral 등 오픈소스 모델을 지원하고, 하루 10,000건까지 무료입니다. 간단한 텍스트 분류나 임베딩 생성에는 OpenAI API 대신 쓸 수 있겠습니다.
Cloudflare의 AI 생태계 확장이 빠릅니다. R2 + Workers AI + Vectorize 조합이 꽤 매력적입니다.
댓글 0