홈으로 돌아가기
Torchtune 토치튠 파이토치 네이티브 LLM 파인튜닝 및 경량화 엔지니어링 라이브러리

Torchtune 토치튠 파이토치 네이티브 LLM 파인튜닝 및 경량화 엔지니어링 라이브러리

공식 서비스 바로가기

공식 웹사이트 방문하기

서비스 상세 소개

Torchtune 토치튠 파이토치 네이티브 LLM 파인튜닝 및 경량화 엔지니어링 라이브러리: LoRA와 QLoRA 및 전체 미세조정을 모듈형 파이토치 컴포넌트로 단일 GPU부터 분산 클러스터까지 초고속 실행하는 튜닝 라이브러리입니다.

Torchtune은 PyTorch 공식 팀이 개발한 생성형 AI 모델 미세조정 전용 파이토치 네이티브 라이브러리입니다. Llama 3, Mistral, Gemma 등 최신 오픈 가중치 모델을 표준 파이토치 레시피로 파인튜닝할 수 있도록 돕습니다. 복잡한 추상화 레이어를 걷어내고 읽기 쉬운 파이썬 코드로 구성되어 있으며 FSDP2 분산 학습, 4비트 및 8비트 양자화, 단일 GPU LoRA 학습을 매끄럽게 연결합니다.

핵심 기능 목록

PyTorch 공식 2.x 생태계 및 torch.compile 가속과 완전 네이티브 호환
단 한 줄의 CLI 명령어로 인기 오픈 가중치 LLM의 LoRA 및 QLoRA 학습 개시
단일 24GB VRAM GPU부터 멀티 노드 8xH100 분산 훈련 클러스터까지 유연한 확장
학습 완료된 어댑터 가중치를 즉시 Hugging Face 형식이나 GGUF로 내보내기 지원

동일 분야 추천 도구