llmio
Unified LLM gateway with weighted load balancing, observability & cost tracking. 统一的 LLM 网关，提供权重负载均衡、可观测性与费用追踪。
파일 탐색기
최종 버전 다운로드 (.zip)- cicd.yml
- releaser.yml
- balancers.go
- balancers_test.go
- breaker.go
- breaker.md
- breaker_test.go
- pagination.go
- response.go
- consts.go
- context_key.go
- log.go
- system.go
- version.go
- chat-io.png
- home.jpeg
- image.png
- llmio.excalidraw
- llmio.svg
- log.jpeg
- with.jpeg
- api.go
- auth_keys.go
- chat.go
- count_tokens.go
- event_logging.go
- home.go
- models.go
- test.go
- version.go
- auth.go
- auth_test.go
- cors.go
- config.go
- init.go
- init_test.go
- log_cleanup.go
- model.go
- env.go
- token.go
- anthropic.go
- cache.go
- gemini.go
- openai.go
- openai_res.go
- provider.go
- auth.go
- before.go
- chat.go
- chat_test.go
- log_cleanup.go
- log_cleanup_test.go
- models.go
- process.go
- provider_error_matcher.go
- provider_error_matcher_test.go
- logo-dark.svg
- logo-light.svg
- logo.svg
- react.svg
- bar-chart.tsx
- pie-chart.tsx
- project-bar-chart.tsx
- project-pie-chart.tsx
- alert-dialog.tsx
- badge.tsx
- button.tsx
- calendar.tsx
- card.tsx
- chart.tsx
- checkbox.tsx
- dialog.tsx
- form.tsx
- input.tsx
- label.tsx
- popover.tsx
- radio-group.tsx
- select.tsx
- sonner.tsx
- spinner.tsx
- switch.tsx
- table.tsx
- textarea.tsx
- tooltip.tsx
- loading.tsx
- theme-provider.tsx
- auth-keys.json
- common.json
- config.json
- home.json
- layout.json
- login.json
- logs.json
- models.json
- providers.json
- quickstart.json
- auth-keys.json
- common.json
- config.json
- home.json
- layout.json
- login.json
- logs.json
- models.json
- providers.json
- quickstart.json
- auth-keys.json
- common.json
- config.json
- home.json
- layout.json
- login.json
- logs.json
- models.json
- providers.json
- quickstart.json
- index.ts
- api.ts
- utils.ts
- model-provider-form-dialog.tsx
- model-provider-test-dialog.tsx
- use-model-provider-form.ts
- use-model-provider-testing.ts
- provider-form-dialog.tsx
- provider-form-utils.ts
- provider-models-dialog.tsx
- use-provider-form.ts
- auth-keys.tsx
- config.tsx
- home.tsx
- layout.tsx
- log-chat.tsx
- login.tsx
- logs.tsx
- model-providers.tsx
- models.tsx
- providers.tsx
- quickstart.tsx
- App.css
- App.tsx
- index.css
- main.tsx
- vite-env.d.ts
- .gitignore
- components.json
- eslint.config.js
- index.html
- package.json
- pnpm-lock.yaml
- pnpm-workspace.yaml
- README.md
- tailwind.config.ts
- tsconfig.app.json
- tsconfig.json
- tsconfig.node.json
- vite.config.ts
- .dockerignore
- .gitignore
- .goreleaser.yml
- AGENTS.md
- CLAUDE.md
- docker-compose.yml
- Dockerfile
- go.mod
- go.sum
- LICENSE
- main.go
- makefile
- README.md
- README_cn.md
# 설치 가이드
1. 코드 내려받기
git clone https://github.com/atopos31/llmio
깃허브에서 프로젝트 코드 전체를 내 컴퓨터로 내려받습니다.
cd llmio
방금 내려받은 프로젝트 폴더 안으로 이동합니다.
2. Docker
쉬움 추천사전 준비물
- Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
- Docker Desktop 컨테이너를 빌드하고 실행하려면 필요합니다. 설치 후 실행해서 백그라운드에 켜두세요.
docker compose up -d
정의된 모든 컨테이너(서버, DB 등)를 한 번에 빌드하고 백그라운드에서 실행합니다.
docker run -d \
빌드된 이미지를 실제 컨테이너로 실행합니다.
터미널에 docker compose ps 를 입력해 컨테이너들이 Up 상태인지 확인하세요. README에 포트 번호가 적혀있다면 브라우저에서 http://localhost:포트번호 로 접속해보세요.
이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.
3. Node.js
쉬움사전 준비물
cd webui
이 프로젝트의 관련 파일이 하위 폴더 안에 있어서, 먼저 그 폴더로 이동합니다.
npm install
package.json에 명시된 라이브러리들을 내려받아 설치합니다.
npm start
개발/실행 서버를 켭니다.
명령어 실행 후 터미널에 나타나는 주소(보통 http://localhost:3000 형태)를 브라우저에서 열어보세요.
4. Go
보통go build ./...
Go 프로그램을 컴파일해 실행 파일을 만듭니다.
go run .
따로 빌드하지 않고 바로 Go 프로그램을 실행합니다.
빌드가 에러 없이 끝나면 성공입니다. go run . 을 썼다면 터미널 출력을 확인하세요.
5. Make
보통사전 준비물
- Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
- Make Linux/macOS는 보통 기본 설치되어 있습니다. Windows는 별도 설치(예: MSYS2, WSL)가 필요합니다.
make webui
생성된 빌드 설정을 바탕으로 실제 컴파일을 진행해 실행 파일을 만듭니다.
에러 없이 끝나면 성공입니다. 생성된 실행 파일을 직접 실행해보세요.
이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.
// repository documentation
Was this content helpful?
(0 ratings)