Llama 3 오픈소스 LLM 사용법

Llama 3 사용법:

# Ollama로 가장 간편하게
ollama run llama3         # 8B 모델
ollama run llama3:70b     # 70B 모델 (RAM 40GB+)

# Python에서 API 사용
import requests
res = requests.post("http://localhost:11434/api/chat", json={
    "model": "llama3",
    "messages": [{"role": "user", "content": "안녕하세요"}],
    "stream": False
})
print(res.json()["message"]["content"])

Llama 3 특징:

• 8B, 70B 두 가지 크기
• 상업적 사용 가능 (라이선스 조건 확인)
• GPT-3.5 Turbo 수준 (8B), GPT-4에 근접 (70B)
• 한국어 성능은 영어보다 부족

기업 내부 AI 서비스를 만들 때 API 비용 없이 사용할 수 있어서 매우 유용합니다.