simple_tensorflow_serving

(★ 757)

Generic and easy-to-use serving service for machine learning models

파일 탐색기

최종 버전 다운로드 (.zip)

- - 0.jpg
  - benchmark_grpc_client.py
  - benchmark_http_client.py
  - benchmark_http_client_batch.py
  - data.json
  - data_for_tensorflow_serving.json
- - benchmark_grpc_client.py
  - benchmark_http_client.py
  - benchmark_http_client_batch.py
  - data.json
  - data_for_tensorflow_serving.json
  - run_ab_benchmark.sh
- - benchmark_grpc_client.py
  - benchmark_http_client.py
  - data.json
  - data_for_tensorflow_serving.json
  - tensorflow_template_application_data.json
  - tensorflow_template_application_data_for_tensorflow_serving.json
- - .gitkeeper
- benchmark_simplest_client.py
- benchmark_template_client.py
- README.md
- start_client.sh
- start_servers.sh
- check.py
- - 1.jpg
  - auth_client.sh
  - client.sh
  - image_client.sh
  - README.md
- - README.md
  - WORKSPACE
- - client.erl
  - README.md
- - client.go
  - README.md
- - README.md
- - README.md
- - client.js
  - README.md
- - README.md
- - client.lua
  - README.md
- - client.pl
  - README.md
- - client.php
  - README.md
- - auth_client.py
  - client.py
  - estimator_client.py
  - h2o_prostate_client.py
  - image_client.py
  - mllib_lr_client.py
  - mxnet_mlp_client.py
  - onnx_mnist_client.py
  - pmml_iris_client.py
  - prostate_test_data.json
  - README.md
  - requirements.txt
  - scikitlearn_iris_client.py
  - simplest_client.py
  - xgboost_iris_client.py
- - client.R
  - README.md
- - client.rb
  - README.md
- - README.md
- - README.md
- - client.swift
  - README.md
- - advanced_usage.md
  - api.md
  - clients.md
  - conf.py
  - development.md
  - image_model.md
  - index.rst
  - installation.md
  - introduction.md
  - models.md
  - performance.md
  - quick_start.md
- make.bat
- Makefile
- - build_custom_op.sh
  - README.md
  - train.py
  - zero_out.cc
- model_config_file.json
- one_tensorflow_model.json
- tensorflow_gpu_session_config.json
- tensorflow_mxnet_models.json
- architecture.jpeg
- benchmark_batch_size.jpeg
- benchmark_concurrency.jpeg
- benchmark_latency.jpeg
- cpu_gpu_benchmark.png
- dashboard.png
- dashboard_multiple_models.png
- gen_python_code.png
- image_inference.png
- mew.jpg
- mew_224_224.jpg
- postman.png
- savedmodel_files.png
- simple_tensorflow_serving_introduction.jpeg
- - GLM_model_python_1525255083960_17
- - mx_mlp-0001.params
  - mx_mlp-signature.json
  - mx_mlp-symbol.json
- - onnx_model.proto
- - DecisionTreeIris.pmml
- - model.joblib
  - model.pkl
  - postprocess_function.marshal
  - preprocess_function.marshal
- - model.bst
  - model.joblib
  - model.pkl
- README.md
- - __init__.py
  - gen_bash.py
  - gen_client.py
  - gen_golang.py
  - gen_javascript.py
  - gen_python.py
- - __init__.py
  - request_util.py
- - footer.html
  - generate_clients.html
  - header.html
  - image_inference.html
  - index.html
  - json_inference.html
- __init__.py
- abstract_inference_service.py
- base64_util.py
- base64_util_test.py
- BUILD
- command.py
- filesystem_util.py
- h2o_inference_service.py
- manager.py
- mxnet_inference_service.py
- onnx_inference_service.py
- pmml_inference_service.py
- preprocess_util.py
- python_predict_client.py
- pytorch_onnx_inference_service.py
- README.md
- scikitlearn_inference_service.py
- server.py
- spark_inference_service.py
- tensorflow_inference_service.py
- xgboost_inference_service.py
- - README.md
- - openscoring-server-executable-1.4-SNAPSHOT.jar
- - generate_python.sh
  - generate_python_client.sh
- - load_lr_model.py
- - http_client.py
  - http_deploy_model.py
  - pmml_sdk_client.py
- - README.md
- - convert_estimator_savedmodel.py
  - data.txt
  - generate_estimator_string.py
  - local_inference.py
  - README.md
- - python_client.py
  - python_grpc_client.py
  - README.md
- check_model.py
- local_inference.py
.dockerignore
.gitignore
docker-compose.yml
Dockerfile
Dockerfile.latest-gpu
Dockerfile.latest-hdfs
Dockerfile.latest-py34
Dockerfile.latest-py37
LICENSE
MANIFEST.in
README.md
requirements-gpu.txt
requirements-rtfd.txt
requirements.txt
setup.py
simple_tensorflow_serving.yaml
WORKSPACE
wsgi.py

🚀 설치 가이드

1. 코드 내려받기

git clone https://github.com/tobegit3hub/simple_tensorflow_serving

깃허브에서 프로젝트 코드 전체를 내 컴퓨터로 내려받습니다.

cd simple_tensorflow_serving

방금 내려받은 프로젝트 폴더 안으로 이동합니다.

2. 공식 설치 스크립트

쉬움 추천

사전 준비물

Python 3 pip 명령어를 쓰려면 Python이 필요합니다.

pip install simple_tensorflow_serving

PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.

✅ 설치 후 새 터미널을 열고, 프로그램의 버전 확인 명령(예: --version)으로 정상 설치됐는지 확인하세요.

이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.

3. Docker

쉬움

사전 준비물

Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
Docker Desktop 컨테이너를 빌드하고 실행하려면 필요합니다. 설치 후 실행해서 백그라운드에 켜두세요.

docker run -d -p 8500:8500 tobegit3hub/simple_tensorflow_serving

빌드된 이미지를 실제 컨테이너로 실행합니다.

docker run -d -p 8500:8500 tobegit3hub/simple_tensorflow_serving:latest-gpu

빌드된 이미지를 실제 컨테이너로 실행합니다.

docker run -d -p 8500:8500 tobegit3hub/simple_tensorflow_serving:latest-hdfs

빌드된 이미지를 실제 컨테이너로 실행합니다.

docker run -d -p 8500:8500 tobegit3hub/simple_tensorflow_serving:latest-py34

빌드된 이미지를 실제 컨테이너로 실행합니다.

docker-compose up -d

compose 설정 파일에 정의된 서비스들을 대상으로 명령을 실행합니다.

✅ 터미널에 docker compose ps 를 입력해 컨테이너들이 Up 상태인지 확인하세요. README에 포트 번호가 적혀있다면 브라우저에서 http://localhost:포트번호 로 접속해보세요.

이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.

4. Python

쉬움

사전 준비물

Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
Python 3 설치 시 'Add Python to PATH' 옵션을 꼭 체크하세요 (Windows).

pip install simple_tensorflow_serving

PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.

✅ 에러 메시지 없이 실행되고 터미널에 안내 문구가 출력되면 정상입니다.

이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.

5. Make

보통

사전 준비물

Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
Make Linux/macOS는 보통 기본 설치되어 있습니다. Windows는 별도 설치(예: MSYS2, WSL)가 필요합니다.

cd docs

이 프로젝트의 관련 파일이 하위 폴더 안에 있어서, 먼저 그 폴더로 이동합니다.

make

생성된 빌드 설정을 바탕으로 실제 컴파일을 진행해 실행 파일을 만듭니다.

✅ 에러 없이 끝나면 성공입니다. 생성된 실행 파일을 직접 실행해보세요.