aikit

(★ 535)

🏗️ Fine-tune, build, and deploy open-source LLMs easily!

파일 탐색기

최종 버전 다운로드 (.zip)

- - bug-report.yml
  - feature-request.yml
- - codeql.yml
  - daily-test-improver.lock.yml
  - daily-test-improver.md
  - dependabot.yaml
  - dependency-review.yml
  - deploy-docs.yaml
  - issue-triage.lock.yml
  - issue-triage.md
  - lint.yaml
  - mirror-localai.yml
  - patch-models.yaml
  - pre-release.yaml
  - release-base.yaml
  - release-hf-cli.yaml
  - release-pr.yaml
  - release-runners.yaml
  - release.yaml
  - scorecards.yml
  - test-docker-args.yaml
  - test-docker-gpu.yaml
  - test-docker-runner-gpu.yaml
  - test-docker-runner.yaml
  - test-docker.yaml
  - test-finetune.yaml
  - test-helm.yaml
  - test-kubernetes.yaml
  - test-local-context.yaml
  - test-oci-platforms.yaml
  - test-packager-inference.yaml
  - test-packager.yaml
  - test-podman-applesilicon.yaml
  - unit-test.yaml
  - update-models.yaml
- CODEOWNERS
- copilot-instructions.md
- dependabot.yaml
- PULL_REQUEST_TEMPLATE.md
- semantic.yml
- - Chart.yaml
  - values.yaml
- - main.go
  - main_test.go
- - main.go
- demo.sh
- - availability.go
  - generate.go
  - generate_test.go
  - policy.go
  - policy_test.go
  - resolver.go
  - resolver_test.go
  - source.go
  - test_constants_test.go
  - types.go
- aikitfile.yaml
- codestral-22b.yaml
- flux-1-dev.yaml
- gemma-2-2b-instruct.yaml
- gpt-oss-120b.yaml
- gpt-oss-20b.yaml
- llama-3.1-8b-instruct.yaml
- llama-3.2-1b-instruct.yaml
- llama-3.2-3b-instruct.yaml
- llama-3.3-70b-instruct.yaml
- mixtral-8x7b-instruct.yaml
- phi-4-14b-instruct.yaml
- qwq-32b.yaml
- - catalog.go
  - catalog.lock.json
  - catalog_test.go
  - validate.go
- - args.go
  - build.go
  - build_test.go
  - platform_test.go
- - pylock.toml
  - requirements.in
  - target.go
  - target_unsloth.py
  - test_target_unsloth.py
  - uv-bootstrap.txt
- - build.go
  - build_helpers.go
  - build_hf.go
  - build_source.go
  - build_templates.go
  - build_templates_performance_test.go
  - build_test.go
- - const.go
  - util.go
  - util_test.go
- - version.go
- diffusers-cuda.yaml
- llama-cpp-cpu.yaml
- llama-cpp-cuda.yaml
- vllm-cpp-cpu.yaml
- vllm-cpp-cuda.yaml
- vllm-cuda.yaml
- - check-image-size.sh
  - check-image-size_test.sh
  - check-llb-benchmark.sh
- parse-models.sh
- update-unsloth-lock.sh
- - alpaca-smoke.jsonl
  - messages-response-smoke.jsonl
  - messages-smoke.jsonl
  - multiple-alpaca-smoke.jsonl
  - multiple-text-smoke.jsonl
  - preference-smoke.jsonl
  - prompt-completion-loader-smoke.parquet
  - prompt-completion-smoke.jsonl
  - sharegpt-response-smoke.jsonl
  - text-smoke.jsonl
- aikitfile-args.yaml
- aikitfile-dev.yaml
- aikitfile-diffusers.yaml
- aikitfile-flux-schnell.yaml
- aikitfile-hf.yaml
- aikitfile-llama-cpp.yaml
- aikitfile-llama-cuda.yaml
- aikitfile-llama-rocm.yaml
- aikitfile-llama.yaml
- aikitfile-llava.yaml
- aikitfile-oci.yaml
- aikitfile-parakeet-cpp.yaml
- aikitfile-piper.yaml
- aikitfile-rfdetr-cpp.yaml
- aikitfile-silero-vad.yaml
- aikitfile-transformers.yaml
- aikitfile-unsloth-adapter-smoke.yaml
- aikitfile-unsloth-custom.yaml
- aikitfile-unsloth-dpo-smoke.yaml
- aikitfile-unsloth-loader-smoke.yaml
- aikitfile-unsloth-messages-response-smoke.yaml
- aikitfile-unsloth-messages-smoke.yaml
- aikitfile-unsloth-multiple-datasets-smoke.yaml
- aikitfile-unsloth-prompt-completion-smoke.yaml
- aikitfile-unsloth-sharegpt-response-smoke.yaml
- aikitfile-unsloth-smoke.yaml
- aikitfile-unsloth-text-smoke.yaml
- aikitfile-unsloth.yaml
- aikitfile-vllm-cpp-cpu.yaml
- aikitfile-vllm-cpp-cuda.yaml
- aikitfile-vllm.yaml
- aikitfile-whisper.yaml
- - architecture.md
  - create-images.md
  - demo.md
  - diffusion.md
  - fine-tune.md
  - gpu.md
  - intro.md
  - kubernetes.md
  - llama-cpp.md
  - packaging.md
  - premade-models.md
  - quick-start.md
  - release.md
  - runners.md
  - security.md
  - specs-finetune.md
  - specs-inference.md
  - vision.md
- - .nojekyll
- .gitignore
- babel.config.js
- docusaurus.config.js
- osv-scanner.toml
- package.json
- README.md
- sidebars.js
- yarn.lock
.gitattributes
.gitignore
.golangci.yaml
.pre-commit-config.yaml
AGENTS.md
CLAUDE.md
CONTRIBUTING.md
Dockerfile
Dockerfile.base
Dockerfile.base-applesilicon
Dockerfile.hf-cli
go.mod
go.sum
LICENSE
Makefile
README.md
SECURITY.md

# 설치 가이드

1. 코드 내려받기

git clone https://github.com/kaito-project/aikit

깃허브에서 프로젝트 코드 전체를 내 컴퓨터로 내려받습니다.

cd aikit

방금 내려받은 프로젝트 폴더 안으로 이동합니다.

2. Docker

쉬움 추천

사전 준비물

Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
Docker Desktop 컨테이너를 빌드하고 실행하려면 필요합니다. 설치 후 실행해서 백그라운드에 켜두세요.

docker run -d --rm -p 8080:8080 ghcr.io/kaito-project/aikit/llama3.1:8b

빌드된 이미지를 실제 컨테이너로 실행합니다.

✅ 터미널에 docker compose ps 를 입력해 컨테이너들이 Up 상태인지 확인하세요. README에 포트 번호가 적혀있다면 브라우저에서 http://localhost:포트번호 로 접속해보세요.

이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.

3. Go

보통

사전 준비물

Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
Go Go 언어 컴파일러 및 도구 모음입니다.

go build ./...

Go 프로그램을 컴파일해 실행 파일을 만듭니다.

go run .

따로 빌드하지 않고 바로 Go 프로그램을 실행합니다.

✅ 빌드가 에러 없이 끝나면 성공입니다. go run . 을 썼다면 터미널 출력을 확인하세요.

4. Make

보통

사전 준비물

Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
Make Linux/macOS는 보통 기본 설치되어 있습니다. Windows는 별도 설치(예: MSYS2, WSL)가 필요합니다.

make

생성된 빌드 설정을 바탕으로 실제 컴파일을 진행해 실행 파일을 만듭니다.

✅ 에러 없이 끝나면 성공입니다. 생성된 실행 파일을 직접 실행해보세요.

aikit

파일 탐색기

# 설치 가이드

2. Docker

3. Go

4. Make

오늘의 추천 프로젝트

Was this content helpful?

Recent Feedback

aikit

파일 탐색기

# 설치 가이드

2. Docker

3. Go

4. Make

오늘의 추천 프로젝트

Was this content helpful?

Recent Feedback

Download README