gguf-parser-go
Review/Check GGUF files and estimate the memory usage and maximum tokens per second.
파일 탐색기
최종 버전 다운로드 (.zip)- ci.yml
- cmd.yml
- prune.yml
- sync.yml
- go.mod
- go.sum
- main.go
- README.md
- any.go
- pool.go
- error.go
- client.go
- client_helper.go
- client_options.go
- file.go
- file_options.go
- proxy.go
- resolver.go
- transport.go
- transport_options.go
- common.go
- jsoniter.go
- stdjson.go
- env.go
- file.go
- file_mmap.go
- file_mmap_js.go
- file_mmap_unix.go
- file_mmap_windows.go
- file_mmap_windows_386.go
- file_mmap_windows_non386.go
- homedir.go
- pointer.go
- handler.go
- handler_unix.go
- handler_windows.go
- search.go
- bytes.go
- random.go
- strings.go
- sum.go
- .gitattributes
- .gitignore
- .golangci.yaml
- cache.go
- Dockerfile
- file.go
- file_architecture.go
- file_architecture_test.go
- file_estimate__llamacpp.go
- file_estimate__llamacpp_test.go
- file_estimate__stablediffusioncpp.go
- file_estimate__stablediffusioncpp_test.go
- file_estimate_option.go
- file_from_distro.go
- file_from_remote.go
- file_metadata.go
- file_metadata_test.go
- file_option.go
- file_test.go
- file_tokenizer.go
- file_tokenizer_test.go
- filename.go
- filename_test.go
- gen.go
- gen.regression.go
- gen.stringer.go
- ggml.go
- go.mod
- go.sum
- LICENSE
- Makefile
- ollama_model.go
- ollama_model_option.go
- ollama_model_test.go
- ollama_registry_authenticate.go
- README.md
- scalar.go
- scalar_test.go
- zz_generated.diffusion_model_memory_usage.regression.go
- zz_generated.ggmltype.stringer.go
- zz_generated.gguffiletype.stringer.go
- zz_generated.ggufmagic.stringer.go
- zz_generated.ggufmetadatavaluetype.stringer.go
- zz_generated.ggufversion.stringer.go
# 설치 가이드
1. 코드 내려받기
git clone https://github.com/gpustack/gguf-parser-go
깃허브에서 프로젝트 코드 전체를 내 컴퓨터로 내려받습니다.
cd gguf-parser-go
방금 내려받은 프로젝트 폴더 안으로 이동합니다.
2. Docker
쉬움 추천사전 준비물
- Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
- Docker Desktop 컨테이너를 빌드하고 실행하려면 필요합니다. 설치 후 실행해서 백그라운드에 켜두세요.
docker build -t gguf-parser-go .
Dockerfile을 기반으로 실행 가능한 이미지를 빌드합니다.
docker run -p 8080:80 gguf-parser-go
빌드된 이미지를 실제 컨테이너로 실행합니다.
터미널에 docker compose ps 를 입력해 컨테이너들이 Up 상태인지 확인하세요. README에 포트 번호가 적혀있다면 브라우저에서 http://localhost:포트번호 로 접속해보세요.
3. Go
보통cd cmd/gguf-parser
이 프로젝트의 관련 파일이 하위 폴더 안에 있어서, 먼저 그 폴더로 이동합니다.
go build ./...
Go 프로그램을 컴파일해 실행 파일을 만듭니다.
go run .
따로 빌드하지 않고 바로 Go 프로그램을 실행합니다.
빌드가 에러 없이 끝나면 성공입니다. go run . 을 썼다면 터미널 출력을 확인하세요.
4. Make
보통사전 준비물
- Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
- Make Linux/macOS는 보통 기본 설치되어 있습니다. Windows는 별도 설치(예: MSYS2, WSL)가 필요합니다.
make
생성된 빌드 설정을 바탕으로 실제 컴파일을 진행해 실행 파일을 만듭니다.
에러 없이 끝나면 성공입니다. 생성된 실행 파일을 직접 실행해보세요.
// repository documentation
Was this content helpful?
(0 ratings)