홈으로 돌아가기
공식 웹사이트 방문하기
Claude Prompt Caching 앤트로픽 클로드 프롬프트 캐싱 90퍼센트 비용 절감과 초저지연 API
공식 서비스 바로가기
서비스 상세 소개
Claude Prompt Caching 앤트로픽 클로드 프롬프트 캐싱 90퍼센트 비용 절감과 초저지연 API: 반복 사용되는 대규모 프롬프트와 사내 문서를 앤트로픽 서버 캐시에 보관하여 API 비용과 첫 토큰 생성 시간을 획기적으로 줄여주는 기능입니다.
Claude Prompt Caching은 앤트로픽이 클로드 3.5 소네트와 하이쿠에 도입한 혁신적인 API 최적화 기술입니다. 수만 줄의 코드베이스 방대한 법률 계약서 책 한 권 분량의 시스템 프롬프트를 5분 동안 캐싱해 둠으로써 동일한 컨텍스트를 재사용할 때 입력 토큰 비용을 최대 90퍼센트 감면하고 첫 번째 토큰이 반환되는 속도를 2배 이상 가속합니다.
핵심 기능 목록
반복 입력되는 대용량 컨텍스트 토큰에 대해 90퍼센트 비용 절감 혜택
수만 토큰 이상의 방대한 사전 컨텍스트 처리 시 TTFT 최대 80퍼센트 단축
최대 4개의 캐시 중단점 캐시 브레이크포인트를 자유롭게 지정 가능
클로드 3.5 소네트 3.5 하이쿠 및 앤트로픽 콘솔 완벽 지원