홈으로 돌아가기
공식 웹사이트 방문하기
Llama 3.3 70B 메타 오픈 가중치 고효율 다국어 추론 언어 모델
공식 서비스 바로가기
서비스 상세 소개
Llama 3.3 70B 메타 오픈 가중치 고효율 다국어 추론 언어 모델: 기존 405B 초거대 모델급의 강력한 코딩과 추론 성능을 단 70B 매개변수로 압축하여 단일 서버에서도 프로덕션 운영이 가능한 메타의 최신 오픈소스 가중치 모델입니다.
Llama 3.3 70B는 메타가 공개한 고효율 오픈소스 거대 언어 모델입니다. 최신 지식 증류 기술과 고밀도 사전 학습을 거쳐 405B 모델에 준하는 코딩, 수학, 다국어 처리 능력을 보유하면서도 운영 비용을 10분의 1 수준으로 줄였습니다. 128K 컨텍스트 길이를 지원하여 장문 RAG와 복합 도구 호출 작업에서 탁월한 안정성을 자랑합니다.
핵심 기능 목록
405B 초거대 파라미터 모델 수준의 MMLU 및 HumanEval 코딩 벤치마크 달성
128K 확장 토큰 컨텍스트 윈도우 지원으로 사내 대용량 문서 요약 및 RAG 최적화
FP8 및 AWQ 4비트 양자화 적용 시 24GB VRAM GPU 1장에서 고속 로컬 추론 가능
강화된 다국어 지원으로 자연스러운 한국어 문장 생성 및 번역 품질 제공
