[Question]: Taskflow文本抽取结束后显存越积越多，应该如何释放 about paddlenlp HOT 3 CLOSED

可以显式的使用下面的API：

https://www.paddlepaddle.org.cn/documentation/docs/zh/api/paddle/device/cuda/empty_cache_cn.html#paddle.device.cuda.empty_cache

hint：

大多数情况下您不需要使用该函数，当您删除 GPU 上的 Tensor 时，Paddle 框架并不会将显存释放，而是将显存保留起来，以便在下一次申明显存时可以更快的完成分配。

from paddlenlp.

可以显式的使用下面的API：

https://www.paddlepaddle.org.cn/documentation/docs/zh/api/paddle/device/cuda/empty_cache_cn.html#paddle.device.cuda.empty_cache

hint：

大多数情况下您不需要使用该函数，当您删除 GPU 上的 Tensor 时，Paddle 框架并不会将显存释放，而是将显存保留起来，以便在下一次申明显存时可以更快的完成分配。

感谢解答，加上这个语句后，确实显存的占用速度变慢了，但还是上升后还是释放不了。比方就是：之前问100个问题占用的是5000MB，加上了之后占用是3800M，但是这个3800不会释放显存还是回不到100个问题之前的大小

from paddlenlp.

推荐使用fastdeploy做服务化部署。

https://github.com/PaddlePaddle/FastDeploy/tree/develop/examples/text/uie

我搜了一下历史，可以参考：

PaddlePaddle/Paddle#52011
PaddlePaddle/Paddle#54852

from paddlenlp.