1 軟件準(zhǔn)備
首先從官網(wǎng)下載TensorRT安裝包,像cuDNN,TensorRT這些安裝包都是需要注冊(cè)下載的。沒(méi)有賬號(hào)的提前注冊(cè)個(gè)NVIDIA的賬號(hào)。這里就以7.2.3為例,首先選擇該版本的壓縮包:
下載完成后,將會(huì)如下圖:
2 VS配置
下面就是重點(diǎn)了,怎樣在VS環(huán)境中配置TensorRT的開(kāi)發(fā)環(huán)境,這里就以samples里的代碼為例來(lái)說(shuō)明,其實(shí)這些示例代碼能幫助我們很好的去學(xué)習(xí)如何使用TensorRT的。
2.1 VC++目錄配置
右鍵點(diǎn)擊屬性首先配置的是VC++目錄中的可執(zhí)行文件目錄中配置TensoRT安裝目錄包中lib庫(kù),包含目錄中要包含CUDA和TensorRT安裝目錄中的include目錄,庫(kù)目錄中要包含CUDA和TensorRT安裝目錄中的lib目錄,以我本機(jī)的安裝目錄如下:
2.2 C++目錄配置
C++目錄配置主要配置附加包含目錄即可,這里主要配置TensorRT安裝目錄中的bin目錄和include目錄以及CUDA安裝目錄的include目錄。其余的不用去配置,按照我本機(jī)的配置如下:
2.3 鏈接器配置
最后一個(gè)配置的就是鏈接器配置,鏈接器配置只要配置輸入就可以了。配置鏈接器中的附加依賴(lài)項(xiàng)即可,這里主要配置的是TensorRT安裝目錄下的各種lib文件中的lib文件。我本地的如下圖:
我們只需將如下的文件添加到依賴(lài)項(xiàng)中即可。我的輸入如下:
E:\software\TensorRT-7.2.3.4\lib\nvinfer.lib
myelin64_1.lib
nvinfer_plugin.lib
nvonnxparser.lib
nvparsers.lib
nvinfer.lib
kernel32.lib
user32.lib
gdi32.lib
winspool.lib
comdlg32.lib
advapi32.lib
shell32.lib
ole32.lib
oleaut32.lib
uuid.lib
odbc32.lib
odbccp32.lib
%(AdditionalDependencies)
cudnn.lib
cublas.lib
cudart.lib
nvrtc.lib
這樣我們的VS TensorRT開(kāi)發(fā)環(huán)境就配置完成了,下面就測(cè)試一下。我們用生成的工程中的exe測(cè)試一下,如果出現(xiàn)如下的結(jié)果則證明配置成功了:
沒(méi)問(wèn)題大功告成!!