Ubuntu, TensorRT 설치

Ubuntu 20.04

Nvidia graphic driver version: 515.65.01

CUDA version: 11.6

Cudnn version: 8.4.1

 

먼저 deb 파일로 설치를 시도했으나, 아래의 글과 같이 호환성 에러가 발생하여

TAR 패키지(8.4.3.1버전)로 설치하였다.

 

TensorRT8.4.0+cuda11.6 install failure - Deep Learning (Training & Inference) / TensorRT - NVIDIA Developer Forums

TensorRT8.4.0+cuda11.6 install failure

 

설치 공식 가이드(8.4 버전)

Installation Guide :: NVIDIA Deep Learning TensorRT Documentation

Installation Guide :: NVIDIA Deep Learning TensorRT Documentation

 

1. TAR 패키지 다운

 

NVIDIA TensorRT 8.x Download | NVIDIA Developer

 

위 링크에서 TAR package를 다운

 

 

2. 압축 해제를 위한 변수 정의 및 해제

 

#버전 확인!
version="8.4.3.1"
arch=$(uname -m)
cuda="cuda-11.6"
cudnn="cudnn8.4"

tar -xzvf TensorRT-${version}.Linux.${arch}-gnu.${cuda}.${cudnn}.tar.gz

 

3. 압축풀린 TensorRT 폴더 확인

 

ls TensorRT-${version}

 

4. 환경변수 선언

./bashrc 에서 수동 입력 가능 (입력 후 재부팅 필수)

 

#경로 확인! (압축 푼 폴더 안의 lib 폴더 경로)
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/home/super/Downloads/TensorRT-8.4.3.1/lib

 

5. pip package 설치

 

#TensorRT-8.4.3.1안에 있는 python 폴더로 이동해서 pip 설치
cd TensorRT-${version}/python

#파이썬 버전 확인, cp38은 3.8, cp39는 3.9 버전
python3 -m pip install tensorrt-*-cp38-none-linux_x86_64.whl

#TensorRT-8.4.3.1안에 있는 uff 폴더로 이동해서 pip 설치
cd TensorRT-${version}/uff
python3 -m pip install uff-0.6.9-py2.py3-none-any.whl

#TensorRT-8.4.3.1안에 있는 graphsurgeon 폴더로 이동해서 pip 설치
cd TensorRT-${version}/graphsurgeon
python3 -m pip install graphsurgeon-0.4.6-py2.py3-none-any.whl

#TensorRT-8.4.3.1안에 있는 onnx_graphsurgeon 폴더로 이동해서 pip 설치
cd TensorRT-${version}/onnx_graphsurgeon
python3 -m pip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl

 

6. python 에서 확인

 

import tensorrt

print(tensorrt.__version__)

 

output:

 

 

끝