2023-06-30 14:32:21
每經(jīng)AI快訊,據(jù)金山辦公官微,金山辦公與NVIDIA團隊合作,通過NVIDIA Tensor Core GPU、TensorRT提升圖像文檔識別與理解的推理效率;借助NVIDIA Triton推理服務(wù)器的部署,成功優(yōu)化GPU利用率,提供高推理吞吐量。相比于CPU其pipleline耗時共下降84%;采用NVIDIA Triton推理服務(wù)器部署,其部署成本節(jié)省了 23%。(每日經(jīng)濟新聞)
特別提醒:如果我們使用了您的圖片,請作者與本站聯(lián)系索取稿酬。如您不希望作品出現(xiàn)在本站,可聯(lián)系我們要求撤下您的作品。
歡迎關(guān)注每日經(jīng)濟新聞APP