홈으로 돌아가기
공식 웹사이트 방문하기
Llama 3.2 3B 메타 온디바이스 모바일 최적화 고성능 초경량 텍스트 파운데이션 모델
공식 서비스 바로가기
서비스 상세 소개
Llama 3.2 3B 메타 온디바이스 모바일 최적화 고성능 초경량 텍스트 파운데이션 모델: 스마트폰과 임베디드 장치에 온프레미스로 탑재되어 외부 네트워크 연결 없이 128k 긴 문맥 요약과 지시 수행을 완벽 처리하는 메타의 30억 파라미터 경량 모델입니다.
Llama 3.2 3B는 메타가 스마트폰 태블릿 엣지 디바이스 환경에서 클라우드 서버 통신 없이 고성능 언어 지능을 로컬 구동하기 위해 개발한 오픈 파운데이션 모델입니다. 퀄컴 스냅드래곤 및 미디어텍 NPU 하드웨어와 완벽히 조율되어 극도로 적은 배터리 소모로 초당 수십 토큰의 텍스트를 실시간 출력합니다. 12만 8천 토큰의 롱 컨텍스트를 지원하여 온디바이스 상태에서 개인 일정 관리 긴 이메일 요약 프라이빗 문서 번역을 철통 보안 속에서 완수합니다.
핵심 기능 목록
30억 파라미터 최적화 구조로 스마트폰 램 4GB 환경에서도 부드러운 로컬 추론 보장
모바일 온디바이스 모델 중 독보적인 128k 대규모 문맥 입력 윈도우 지원
스냅드래곤 NPU 및 애플 뉴럴 엔진 최적화 양자화 가중치 허깅페이스 공식 배포
사용자 개인정보를 외부 클라우드로 전송하지 않는 완벽한 오프라인 프라이버시 유지
