홈으로 돌아가기
공식 웹사이트 방문하기
Llama Stack 라마 스택 메타 공식 Llama 모델 배포 파인튜닝 통합 표준 인터페이스
공식 서비스 바로가기
서비스 상세 소개
Llama Stack 라마 스택 메타 공식 Llama 모델 배포 파인튜닝 통합 표준 인터페이스: 메타 Llama 모델 제품군을 추론 평가 안전성 검증 도구 호출 파인튜닝까지 일관된 API 규격으로 연동하는 공식 표준 소프트웨어 스택입니다.
Llama Stack은 Meta가 Llama 모델 생태계의 파편화를 해소하고 기업 프로덕션 배포를 단일화하기 위해 발표한 공식 아키텍처 스택입니다. 클라우드, 온프레미스 서버, 모바일 기기까지 단일 API 엔드포인트로 추론 인퍼런스, RAG 검색 증강, 안전 가드레일 Llama Guard 적용, 멀티 에이전트 도구 호출을 표준화합니다. AWS, Azure, Ollama, vLLM 등 다양한 서빙 백엔드를 플러그인 방식으로 교체할 수 있습니다.
핵심 기능 목록
Meta 공식 표준 API를 통해 단일 인터페이스로 추론 에이전트 가드레일 통합 제어
vLLM, TGI, Ollama 등 다양한 서빙 백엔드를 코드 변경 없이 유연하게 교체
Llama Guard 및 CyberSec Guard 안전 모델 내장 바인딩으로 보안 위협 원천 차단
클라우드 대규모 클러스터부터 모바일 로컬 기기까지 일관된 클라이언트 SDK 제공
