推理业务GPU占用优化

资讯

做推理业务是不是需要一直占着显卡，如何降低GPU占用率？

开篇直接给答案做推理业务并不需要一直占着显卡的算力，但显存会…