Llama 3.3 70B 한눈에
Llama 3.3 70B Instruct는 메타가 700억 매개변수로 다국어 대화, 코딩, 추론과 도구 활용을 다듬은 텍스트 지시 조정 모델이에요. 12만 8천 토큰 맥락을 처리하며, 가중치는 Llama 3.3 Community License로 공개돼 있어요.
제작사 자료로 10월 16일에 확인했어요 — meta-llama/Llama-3.3-70B-Instruct — Hugging Face
- 나온 날
- 2024년 12월 6일(Meta 공개).
- 한 번에 읽는 양
- 질문 · 첨부 · 앞선 대화와 답을 합쳐 약 13만 토큰 안에서 처리해요.
쓰는 법
지원 엔드포인트
| 구분 | 엔드포인트 | 용도 | 문서 |
|---|---|---|---|
| 기본 | POST /v1/chat/completions | OpenAI 호환 채팅 호출 | 레퍼런스 |
| 보조 | GET /v1/models/meta-llama%2FLlama-3.3-70B-Instruct-Turbo | 모델 규격과 키별 호출 가능 여부 조회 | 레퍼런스 |
API 로 부르기
POST /v1/chat/completionsOpenAI 호환 채팅 호출base_url: https://oneport.kr/v1OpenAI 호환 SDK base_url
curl https://oneport.kr/v1/chat/completions \
-H "Authorization: Bearer $ONEPORT_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "meta-llama/Llama-3.3-70B-Instruct-Turbo",
"messages": [{"role": "user", "content": "안녕하세요"}]
}'API 규격과 기능
- 최대 컨텍스트
- 131K 토큰
- 스트리밍
- 실시간 스트리밍(SSE) 지원
- 학생 키 정책
- 학생 키·일반 키 모두 호출 가능