홈으로 돌아가기
공식 웹사이트 방문하기
Groq
공식 서비스 바로가기
서비스 상세 소개
Groq: LPU 엔진을 통해 라마3 등 오픈소스 모델을 초당 수백 토큰의 압도적인 속도로 추론하는 엔진입니다.
Groq은 기존 GPU와 차별화된 LPU 기술로 대규모 언어 모델을 실시간에 가까운 속도로 구동합니다. Llama 3, Mixtral 등 최고의 오픈소스 모델들을 지연 시간 없이 경험하고 싶은 개발자들에게 필수적인 플랫폼입니다.
핵심 기능 목록
압도적인 응답 속도
무료 API 제공
최신 오픈소스 모델 지원
