lm-proxy
OpenAI-compatible HTTP LLM proxy / gateway for multi-provider inference (Google, Anthropic, OpenAI, PyTorch). Lightweight, extensible Python/FastAPI—use as library or standalone service.
파일 탐색기
최종 버전 다운로드 (.zip)- badge-publish.yml
- code-style.yml
- docker.yml
- gito-code-review.yml
- gito-react-to-comments.yml
- tests.reusable.yml
- tests.yml
- config.toml
- fallback.md
- http_headers.md
- https.md
- load_balancer_config.py
- vertex-ai.toml
- __init__.py
- allow_all.py
- in_config.py
- with_request.py
- __init__.py
- json.py
- python.py
- toml.py
- yaml.py
- __init__.py
- forward_http_headers.py
- rate_limiter.py
- __init__.py
- fallback.py
- __init__.py
- __main__.py
- app.py
- base_types.py
- bootstrap.py
- config.py
- core.py
- errors.py
- loggers.py
- models_endpoint.py
- utils.py
- lm-proxy_1_hacker_1600x672.png
- __init__.py
- config_fn.py
- extra_headers.yml
- no_api_key_check.yml
- rate_limiter.yml
- test_config.json
- test_config.toml
- test_config.yml
- test_disabled.py
- __init__.py
- conftest.py
- test_api_key_check_allow_all.py
- test_api_key_check_errors.py
- test_api_key_check_with_request.py
- test_config_loaders.py
- test_integration.py
- test_integration_headers.py
- test_loggers.py
- test_models_endpoint.py
- test_print_stream.py
- test_rate_limiter_integration.py
- test_resolve_connection_and_model.py
- test_utils.py
- .dockerignore
- .env.template
- .flake8
- .gitignore
- AGENTS.md
- CLAUDE.md
- config.toml
- coverage.svg
- Dockerfile
- LICENSE
- Makefile
- multi-build.py
- poetry.lock
- pyproject.toml
- README.md
# 설치 가이드
git clone https://github.com/Nayjest/lm-proxy
깃허브에서 프로젝트 코드 전체를 내 컴퓨터로 내려받습니다.
cd lm-proxy
방금 내려받은 프로젝트 폴더 안으로 이동합니다.
2. 공식 설치 스크립트
쉬움 추천- Python 3 pip 명령어를 쓰려면 Python이 필요합니다.
pip install lm-proxy
PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.
pip install lm-proxy[anthropic,google]
PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.
pip install lm-proxy[all]
PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.
이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.
3. Docker
쉬움- Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
- Docker Desktop 컨테이너를 빌드하고 실행하려면 필요합니다. 설치 후 실행해서 백그라운드에 켜두세요.
docker run -d --name lm-proxy \
빌드된 이미지를 실제 컨테이너로 실행합니다.
docker build --build-arg EXTRA_PIP_PACKAGES="lm-proxy-db-connector sqlalchemy psycopg2-binary" -t lm-proxy .
Dockerfile을 기반으로 실행 가능한 이미지를 빌드합니다.
이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.
4. Python
쉬움pip install lm-proxy
PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.
pip install lm-proxy[anthropic,google]
PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.
pip install lm-proxy[all]
PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.
python -m lm_proxy
파이썬 스크립트(또는 모듈)를 실행합니다.
use_cache = true # requires installing cachetools if True: pip install cachetools
requirements.txt 등에 명시된 파이썬 라이브러리를 설치합니다.
이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.
5. Make
보통- Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
- Make Linux/macOS는 보통 기본 설치되어 있습니다. Windows는 별도 설치(예: MSYS2, WSL)가 필요합니다.
make
생성된 빌드 설정을 바탕으로 실제 컴파일을 진행해 실행 파일을 만듭니다.