mistral-finetune

(★ 3,096)

No description available.

파일 탐색기

최종 버전 다운로드 (.zip)

- - bug_report.yml
  - config.yml
- 7B.yaml
- - __init__.py
  - args.py
  - data_loader.py
  - dataset.py
  - exceptions.py
  - tokenize.py
- - __init__.py
  - metrics_logger.py
  - utils.py
- __init__.py
- args.py
- checkpointing.py
- distributed.py
- eval.py
- loss.py
- mixed_precision.py
- utils.py
- wrapped_model.py
- __init__.py
- args.py
- lora.py
- moe.py
- rope.py
- transformer.py
- __init__.py
- test_checkpointer.py
- test_data.py
- test_mixed_precision.py
- test_model.py
- test_train_loop.py
- test_utils.py
- mistral_finetune_7b.ipynb
- __init__.py
- extend_model_vocab.py
- merge_lora.py
- reformat_data.py
- reformat_data_glaive.py
- validate_data.py
.gitignore
LICENSE
pyproject.toml
README.md
requirements.dev.txt
requirements.txt
train.py

# 설치 가이드

1. 코드 내려받기

git clone https://github.com/mistralai/mistral-finetune

깃허브에서 프로젝트 코드 전체를 내 컴퓨터로 내려받습니다.

cd mistral-finetune

방금 내려받은 프로젝트 폴더 안으로 이동합니다.

2. 공식 설치 스크립트

쉬움 추천

사전 준비물

Python 3 pip 명령어를 쓰려면 Python이 필요합니다.

pip install mistral_inference

PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.

pip install wandb

PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.

✅ 설치 후 새 터미널을 열고, 프로그램의 버전 확인 명령(예: --version)으로 정상 설치됐는지 확인하세요.

이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.

3. Python

쉬움

사전 준비물

Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
Python 3 설치 시 'Add Python to PATH' 옵션을 꼭 체크하세요 (Windows).

pip install -r requirements.txt

requirements.txt 등에 명시된 파이썬 라이브러리를 설치합니다.

python -m utils.validate_data --train_yaml example/7B.yaml

파이썬 스크립트(또는 모듈)를 실행합니다.

python -m utils.reformat_data $HOME/data/ultrachat_chunk_train.jsonl

파이썬 스크립트(또는 모듈)를 실행합니다.

python -m utils.reformat_data $HOME/data/ultrachat_chunk_eval.jsonl

파이썬 스크립트(또는 모듈)를 실행합니다.

python -m utils.reformat_data_glaive $HOME/data/glaive_train.jsonl

파이썬 스크립트(또는 모듈)를 실행합니다.

✅ 에러 메시지 없이 실행되고 터미널에 안내 문구가 출력되면 정상입니다.

이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.