01、根据老黄的介绍,TensorRT 4是一款应用平台,并且TensorRT 4应用平台是能够进行可编程的,大大给开发者带来了便利。
02、据悉,利用TensorRT 4可编程平台来进行编程操作,就能够快捷地将已经训练好的神经网络快速部署到NVIDIA的GPU上,方便快捷。
03、新版的TensorRT 4应用平台也同时能够支持INT8以及FP16精度运算,并且对于数据中心的功耗可以降低到70%。
04、此外,NVIDIA还会和谷歌进行相关的深度合作,旨在要想TensorRT 4整合到现在AI开源框架中去,并且加速AI应用的推广实行。