Baseten은 머신러닝 엔지니어가 복잡한 쿠버네티스 클러스터 관리 없이도 최신 오픈소스 LLM과 확산 모델을 프로덕션 환경에 즉시 서빙할 수 있도록 지원하는 서버리스 추론 플랫폼입니다. 자체 오픈소스 프레임워크인 Truss를 통해 모델 패키징을 단순화하며, 트래픽 급증 시 제로 콜드스타트에 가까운 속도로 H100 A100 GPU를 오토스케일링합니다.