cuBERT
Fast implementation of BERT inference directly on NVIDIA (CUDA, CUBLAS) and Intel MKL
파일 탐색기
최종 버전 다운로드 (.zip)- benchmark_cu.cpp
- benchmark_gemm.cpp
- benchmark_tf.cpp
- cub.cmake
- FindMKL.cmake
- Findtensorflow.cmake
- googletest.cmake
- mkl.cmake
- protobuf-c.cmake
- protobuf.cmake
- tf_core_framework.cmake
- utf8proc.cmake
- Benchmark.java
- CLibrary.java
- ComputeType.java
- Model.java
- Output.java
- OutputType.java
- ModelTest.java
- pom.xml
- CMakeLists.txt
- __init__.py
- _cuBERT.pxd
- cuBERT.pyx
- cuBERT_benchmark.py
- cuBERT_test.py
- setup.py
- Dense.cpp
- Dense.h
- Embedding.cpp
- Embedding.cu
- Embedding.h
- GELU.cpp
- GELU.cu
- GELU.h
- LayerNorm.cpp
- LayerNorm.cu
- LayerNorm.h
- Softmax.cpp
- Softmax.cu
- Softmax.h
- AttentionMask.cpp
- AttentionMask.cu
- AttentionMask.h
- AttentionSelf.cpp
- AttentionSelf.h
- BatchMatMul.cpp
- BatchMatMul.h
- Transformer.cpp
- Transformer.h
- BertEmbeddings.cpp
- BertEmbeddings.h
- BertPooler.cpp
- BertPooler.cu
- BertPooler.h
- AdditionalOutputLayer.cpp
- AdditionalOutputLayer.h
- Graph.cpp
- Graph.h
- Bert.cpp
- Bert.h
- BertM.cpp
- BertM.h
- common.cpp
- common.h
- tokenization.cpp
- tokenization.h
- cuBERT.cpp
- cuBERT.h
- half.hpp
- attr_value.proto
- function.proto
- graph.proto
- node_def.proto
- op_def.proto
- resource_handle.proto
- tensor.proto
- tensor_shape.proto
- types.proto
- versions.proto
- DenseTest.cpp
- EmbeddingTest.cpp
- GELUTest.cpp
- LayerNormTest.cpp
- SoftmaxTest.cpp
- attention_self_test.py
- AttentionMaskTest.cpp
- AttentionSelfTest.cpp
- BatchMatMulTest.cpp
- modeling.py
- transformer_test.py
- TransformerTest.cpp
- BertEmbeddingsTest.cpp
- BertPoolerTest.cpp
- AdditionalOutputLayerTest.cpp
- bert_test.py
- BertMTest.cpp
- BertTest.cpp
- common_test.cpp
- common_test.h
- tokenization_test.cpp
- cuBERT_test.cpp
- unit_test.cpp
- .gitignore
- .travis.yml
- CMakeLists.txt
- devel-cpu.Dockerfile
- devel-gpu.Dockerfile
- devel-py.Dockerfile
- LICENSE
- README.md
- test_vocab.txt
# 설치 가이드
1. 코드 내려받기
git clone https://github.com/zhihu/cuBERT
깃허브에서 프로젝트 코드 전체를 내 컴퓨터로 내려받습니다.
cd cuBERT
방금 내려받은 프로젝트 폴더 안으로 이동합니다.
2. 공식 설치 스크립트
쉬움 추천사전 준비물
- Python 3 pip 명령어를 쓰려면 Python이 필요합니다.
pip install dist/cuBERT-xxx.whl
PyPI에 배포된 패키지를 바로 설치합니다. 소스 클론이 필요 없습니다.
설치 후 새 터미널을 열고, 프로그램의 버전 확인 명령(예: --version)으로 정상 설치됐는지 확인하세요.
이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.
3. CMake
보통사전 준비물
cmake -DCMAKE_BUILD_TYPE=Release -DcuBERT_ENABLE_GPU=ON -DCUDA_ARCH_NAME=Common ..
이 명령어를 터미널에 그대로 입력해 실행하세요.
cmake -DCMAKE_BUILD_TYPE=Release -DcuBERT_ENABLE_MKL_SUPPORT=ON ..
이 명령어를 터미널에 그대로 입력해 실행하세요.
build 폴더 안에 실행 파일이 생성됐는지 확인하고, 직접 실행해보세요 (예: ./build/앱이름).
이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.
4. Maven (Java)
보통사전 준비물
- Git GitHub에서 프로젝트 코드를 내려받으려면 필요합니다.
- JDK (Java) Java 프로젝트를 빌드/실행하려면 필요합니다.
- Maven mvn 명령어를 쓰기 위한 빌드 도구입니다.
mvn clean package # -DskipTests
Maven으로 의존성 설치와 빌드를 진행합니다.
BUILD SUCCESS 메시지가 뜨면 성공입니다. target/ 폴더에 결과물이 생성됩니다.
이 레포의 README에 적힌 실제 명령어를 그대로 가져왔습니다.
// repository documentation
Was this content helpful?
(0 ratings)