InferenceHelper

(★ 297)

C++ Helper Class for Deep Learning Inference Frameworks: TensorFlow Lite, TensorRT, OpenCV, OpenVINO, ncnn, MNN, SNPE, Arm NN, NNabla, ONNX Runtime, LibTorch, TensorFlow

파일 탐색기

최종 버전 다운로드 (.zip)

- - issue-report.md
  - others.md
- - ci_android.yml
  - ci_arm.yml
  - ci_ubuntu.yml
  - ci_windows.yml
- class_diagram.drawio
- class_diagram.png
- logo.png
- overview.drawio
- overview.png
- build_run_linux.sh
- build_run_windows.ps1
- - CreateUserBuffer.cpp
  - CreateUserBuffer.hpp
  - NOTICE.txt
  - udlExample.cpp
  - udlExample.hpp
  - Util.cpp
  - Util.hpp
- - BatchStream.h
  - common.h
  - EntropyCalibrator.h
  - ErrorRecorder.h
  - logger.cpp
  - logger.h
  - logging.h
- CMakeLists.txt
- inference_helper.cpp
- inference_helper.h
- inference_helper_armnn.cpp
- inference_helper_armnn.h
- inference_helper_libtorch.cpp
- inference_helper_libtorch.h
- inference_helper_log.h
- inference_helper_mnn.cpp
- inference_helper_mnn.h
- inference_helper_ncnn.cpp
- inference_helper_ncnn.h
- inference_helper_nnabla.cpp
- inference_helper_nnabla.h
- inference_helper_onnx_runtime.cpp
- inference_helper_onnx_runtime.h
- inference_helper_opencv.cpp
- inference_helper_opencv.h
- inference_helper_sample.cpp
- inference_helper_sample.h
- inference_helper_snpe.cpp
- inference_helper_snpe.h
- inference_helper_tensorflow.cpp
- inference_helper_tensorflow.h
- inference_helper_tensorflow_lite.cpp
- inference_helper_tensorflow_lite.h
- inference_helper_tensorrt.cpp
- inference_helper_tensorrt.h
- - armnn.cmake
  - libtorch.cmake
  - mnn.cmake
  - ncnn.cmake
  - nnabla.cmake
  - onnx_runtime.cmake
  - sample.cmake
  - snpe.cmake
  - tensorflow.cmake
  - tflite.cmake
  - tflite_edgetpu.cmake
  - tflite_edgetpu_pipeline.cmake
  - tflite_gpu.cmake
- - abseil-cpp
  - flatbuffers
- download_prebuilt_libraries.sh
- tensorflow
.gitignore
.gitmodules
LICENSE
NOTICE.md
README.md

# 설치 가이드

1. 코드 내려받기

git clone https://github.com/iwatake2222/InferenceHelper

깃허브에서 프로젝트 코드 전체를 내 컴퓨터로 내려받습니다.

cd InferenceHelper

방금 내려받은 프로젝트 폴더 안으로 이동합니다.

2. 공식 설치 스크립트

쉬움 추천

사전 준비물

APT (Debian/Ubuntu 계열) Debian/Ubuntu 계열 리눅스에 기본 내장된 패키지 매니저입니다.

sudo apt install -y vulkan-utils libvulkan1 libvulkan-dev

APT 패키지 저장소에서 바로 설치합니다 (Debian/Ubuntu 계열).

✅ 설치 후 새 터미널을 열고, 프로그램의 버전 확인 명령(예: --version)으로 정상 설치됐는지 확인하세요.

이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.

3. CMake

보통

사전 준비물

Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
CMake 빌드 설정을 생성하는 도구입니다.
C/C++ 컴파일러 Windows는 Visual Studio(Community 무료), macOS는 Xcode Command Line Tools, Linux는 gcc/g++ 패키지가 필요합니다.

```cmake

이 명령어를 터미널에 그대로 입력해 실행하세요.

cmake .. -DINFERENCE_HELPER_ENABLE_OPENCV=on

소스코드를 분석해 빌드 설정 파일을 생성합니다 (build 폴더 안에서 실행해야 함).

cmake .. -DINFERENCE_HELPER_ENABLE_TFLITE=on

소스코드를 분석해 빌드 설정 파일을 생성합니다 (build 폴더 안에서 실행해야 함).

cmake .. -DINFERENCE_HELPER_ENABLE_TFLITE_DELEGATE_XNNPACK=on

소스코드를 분석해 빌드 설정 파일을 생성합니다 (build 폴더 안에서 실행해야 함).

cmake .. -DINFERENCE_HELPER_ENABLE_TFLITE_DELEGATE_GPU=on

소스코드를 분석해 빌드 설정 파일을 생성합니다 (build 폴더 안에서 실행해야 함).

✅ build 폴더 안에 실행 파일이 생성됐는지 확인하고, 직접 실행해보세요 (예: ./build/앱이름).

이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.