본문 바로가기

tensorrt4

TensorRT Docker 사용 정리 Nvidia driver: 515.86 CUDA: 11.6 Docker: 20.10.21 1. Nvidia container toolkit 설치(Installation Guide — NVIDIA Cloud Native Technologies documentation) 1-1. package repository 추가 distribution=$(. /etc/os-release;echo $ID$VERSION_ID) \ && curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \ && curl -s -L ht.. 2022. 12. 13.
Ubuntu, TensorRT로 Yolov5 inference Ubuntu 20.04 TensorRT 8.4.3.1 공식 깃헙: GitHub - ultralytics/yolov5: YOLOv5 🚀 in PyTorch > ONNX > CoreML > TFLite GitHub - ultralytics/yolov5: YOLOv5 🚀 in PyTorch > ONNX > CoreML > TFLite YOLOv5 🚀 in PyTorch > ONNX > CoreML > TFLite. Contribute to ultralytics/yolov5 development by creating an account on GitHub. github.com 공식 깃헙에 따르면, Yolov5를 TensorRT를 통해 배포하는 방법에는 1. export.py를 거쳐 model.engine을 만든 .. 2022. 12. 5.
Ubuntu, TensorRT 설치 Ubuntu 20.04 Nvidia graphic driver version: 515.65.01 CUDA version: 11.6 Cudnn version: 8.4.1 먼저 deb 파일로 설치를 시도했으나, 아래의 글과 같이 호환성 에러가 발생하여 TAR 패키지(8.4.3.1버전)로 설치하였다. TensorRT8.4.0+cuda11.6 install failure - Deep Learning (Training & Inference) / TensorRT - NVIDIA Developer Forums TensorRT8.4.0+cuda11.6 install failure Description A clear and concise description of the bug or issue. Environment T.. 2022. 11. 27.
Ubuntu, torch-tensorrt 설치 및 사용 Ubuntu 20.04 Nvidia graphic driver version: 515.65.01 CUDA version: 11.6 Cudnn version: 8.4.1 1. 주의할점 pip 명령줄 한줄이면 설치가 되나, CUDA, cudnn, torch, torchivision, torchaudio, 그리고 마지막 torch-tensorrt 의 버전이 모두 맞아야 작동한다. 또한, 설치가 꼬였을때, torch, torchvision, torchaudio, torch-tensorrt 모두 지웠다가 새로 설치를 해야한다. (CUDA, cudnn은 그대로 둬도 된다) 2. torch 설치 현재 torch 1.13 버전이 배포되고 있으나, 에러가 발생하여 1.12.1 버전으로 진행 공식 링크(Previous P.. 2022. 11. 27.

티스토리툴바