홈으로 돌아가기
공식 웹사이트 방문하기
Whisper-Medusa 투기적 디코딩 기반 무손실 3배 고속 음성인식 엔진
공식 서비스 바로가기
서비스 상세 소개
Whisper-Medusa 투기적 디코딩 기반 무손실 3배 고속 음성인식 엔진: 다중 헤드 투기적 디코딩 기법을 적용해 오픈AI Whisper 대비 정확도 저하 없이 3배 빠른 전사 속도를 구현한 모델입니다.
Whisper-Medusa는 대형언어모델 가속 기술인 메두사 아키텍처를 음성 인식 STT 모델에 세계 최초로 성공적으로 이식한 오픈소스 프로젝트입니다. 기존의 단일 토큰 순차 디코딩 방식 대신 여러 개의 서브헤드가 다음 토큰들을 동시에 예측하고 검증합니다. 단어 오인식률 WER의 증가 없이 순수 추론 속도만 3배 이상 단축시킵니다.
핵심 기능 목록
Whisper Large v3 모델 대비 300퍼센트 이상 빠른 초고속 음성 전사 속도
투기적 디코딩 검증 단계를 통해 원본 Whisper와 수학적으로 동일한 전사 정확도 보장
추가적인 거대 모델 서빙 없이 단일 가중치 파일 내 경량 헤드만으로 가속
실시간 회의록 작성 및 실시간 자막 송출 환경에 최적화된 파이프라인
