ggml

KO | EN

gitlite — search

#python #hacktoberfest #android #rust #deep-learning #linux #docker #java #nodejs #awesome #openai #ios #mcp #open-source

(★ 15,181)

머신러닝을 위한 텐서 라이브러리

ggml 최신버젼 다운로드

최종 버전 다운로드 (.zip)

// repository documentation

Was this content helpful?

★ 0 (0 ratings)

# ggml

[Manifesto](https://github.com/ggerganov/llama.cpp/discussions/205)

머신러닝을 위한 텐서 라이브러리

***이 프로젝트는 현재 활발히 개발 중입니다. \
일부 개발은 현재 [llama.cpp](https://github.com/ggerganov/llama.cpp) 및 [whisper.cpp](https://github.com/ggerganov/whisper.cpp) 저장소에서 진행되고 있습니다***

## Features

- 저수준 크로스 플랫폼 구현
- 정수 양자화(quantization) 지원
- 광범위한 하드웨어 지원
- 자동 미분
- ADAM 및 L-BFGS 최적화 도구
- 외부 종속성 없음
- 런타임 시 메모리 할당 없음

## Build

```bash
git clone https://github.com/ggml-org/ggml
cd ggml

# install python dependencies in a virtual environment
python3.10 -m venv .venv
source .venv/bin/activate
pip install -r requirements.txt

# build the examples
mkdir build && cd build
cmake ..
cmake --build . --config Release -j 8
```

## GPT inference (example)

```bash
# run the GPT-2 small 117M model
../examples/gpt-2/download-ggml-model.sh 117M
./bin/gpt-2-backend -m models/gpt-2-117M/ggml-model.bin -p "This is an example"
```

자세한 내용은 [examples](examples) 폴더의 해당 프로그램을 확인하세요.

## Resources

- [Introduction to ggml](https://huggingface.co/blog/introduction-to-ggml)
- [The GGUF file format](https://github.com/ggerganov/ggml/blob/master/docs/gguf.md)

ggml

ggml 최신버젼 다운로드

오늘의 추천 프로젝트

Was this content helpful?

Recent Feedback

ggml

ggml 최신버젼 다운로드

오늘의 추천 프로젝트

Was this content helpful?

Recent Feedback

Download README