smoothquant

(★ 1,674)

[ICML 2023] SmoothQuant: Accurate and Efficient Post-Training Quantization for Large Language Models

파일 탐색기

1. 코드 내려받기

git clone https://github.com/mit-han-lab/smoothquant

깃허브에서 프로젝트 코드 전체를 내 컴퓨터로 내려받습니다.

cd smoothquant

방금 내려받은 프로젝트 폴더 안으로 이동합니다.

쉬움 추천

사전 준비물

pip install torch==1.12.1+cu113 torchvision==0.13.1+cu113 torchaudio==0.12.1 --extra-index-url https://download.pytorch.org/whl/cu113

PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.

pip install transformers==4.36.0 accelerate datasets zstandard

PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.

✅ 설치 후 새 터미널을 열고, 프로그램의 버전 확인 명령(예: --version)으로 정상 설치됐는지 확인하세요.

이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.

쉬움

사전 준비물

pip install torch==1.12.1+cu113 torchvision==0.13.1+cu113 torchaudio==0.12.1 --extra-index-url https://download.pytorch.org/whl/cu113

PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.

pip install transformers==4.36.0 accelerate datasets zstandard

PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.

✅ 에러 메시지 없이 실행되고 터미널에 안내 문구가 출력되면 정상입니다.

이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.