홈으로 돌아가기
SmolLM2 스몰LM2 스마트폰 온디바이스 로컬 구동 초경량 파운데이션 언어 모델

SmolLM2 스몰LM2 스마트폰 온디바이스 로컬 구동 초경량 파운데이션 언어 모델

공식 서비스 바로가기

공식 웹사이트 방문하기

서비스 상세 소개

SmolLM2 스몰LM2 스마트폰 온디바이스 로컬 구동 초경량 파운데이션 언어 모델: 135M 360M 1.7B 파라미터 크기로 스마트폰과 라즈베리 파이에서 밀리초 단위로 응답하는 초소형 고효율 오픈소스 언어 모델입니다.

SmolLM2는 Hugging Face가 에지 디바이스와 모바일 환경 구동을 목표로 개발한 초경량 파운데이션 모델 패밀리입니다. 고품질 교육용 합성 데이터셋인 FineMath와 Cosmopedia v2를 기반으로 정교하게 사전 학습되었습니다. 1.7B 모델은 동급 체급 모델 중 최고 수준의 추론 성능과 파이썬 코딩 능력을 입증하며 스마트폰 로컬 앱에서도 발열과 배터리 소모 없이 자연스러운 텍스트를 생성합니다.

핵심 기능 목록

135M 초소형 가중치로 메모리 200MB 이하의 저사양 IoT 기기에서도 즉시 추론
Ollama 및 llama.cpp 네이티브 GGUF 4비트 양자화 지원으로 스마트폰 로컬 구동
자연어 질의응답 및 기초 파이썬 코드 생성 벤치마크에서 이전 세대 대비 40퍼센트 성능 향상
상업적 수정 및 배포가 완전히 허용되는 아파치 2.0 라이선스 제공

동일 분야 추천 도구