홈으로 돌아가기
공식 웹사이트 방문하기
Meta MobileLLM 메타 온디바이스 스마트폰 최적화 서브 빌리언 경량 언어 모델
공식 서비스 바로가기
서비스 상세 소개
Meta MobileLLM 메타 온디바이스 스마트폰 최적화 서브 빌리언 경량 언어 모델: 네트워크 연결 없이 스마트폰 모바일 칩셋에서 초저전력으로 구동되는 메타의 초경량 온디바이스 AI 아키텍처입니다.
Meta MobileLLM은 클라우드 서버와의 통신 없이 사용자의 스마트폰과 에지 기기에서 독립적으로 실행되도록 메타가 발표한 10억 파라미터 미만의 초소형 오픈소스 언어 모델입니다. 임베딩 파라미터 공유와 계층 간 피드포워드 재사용 기술을 적용하여 모델 크기를 혁신적으로 줄이면서도 70억 파라미터급 모델에 버금가는 요약과 추론 능력을 달성했습니다. 배터리 소모와 발열을 최소화하여 개인정보 보호가 필수적인 온디바이스 모바일 앱 개발에 최적입니다.
핵심 기능 목록
10억 파라미터 이하의 초경량 구조로 스마트폰 모바일 NPU 및 CPU에서 고속 실행
인터넷 연결이 필요 없는 100퍼센트 오프라인 프라이빗 데이터 처리
임베딩 공유 구조를 통한 DRAM 메모리 대역폭 점유율 획기적 절감
iOS 및 안드로이드 네이티브 런타임과 양자화 라이브러리 공식 지원