内存未释放

[gaoxincheng]

🔎 Search before asking | 提交之前请先搜索

• I have searched the MinerU Readme and found no similar bug report.
• I have searched the MinerU Issues and found no similar bug report.
• I have searched the MinerU Discussions and found no similar bug report.

🤖 Consult the online AI assistant for assistance | 在线 AI 助手咨询

• I have consulted the online AI assistant but was unable to obtain a solution to the issue.

Description of the bug | 错误描述

MinerU 2.6 版本， 使用vlm-vllm-engine 方式处理PDF文档，每次处理完一个文件内存都会增加，即使文件处理完后主动调用clean_memory，内存也未释放

How to reproduce the bug | 如何复现

直接解析PDF文件，内存会不断增加

Operating System Mode | 操作系统类型

Linux

Operating System Version| 操作系统版本

Ubuntu 22.04

Python version | Python 版本

3.13

Software version | 软件版本 (mineru --version)

>=2.5

Backend name | 解析后端

vlm

Device mode | 设备模式

cuda

[dosubot]

Hi @gaoxincheng! I'm Dosu and I’m helping the MinerU team.

你的问题根源在于 MinerU 的 vlm-vllm-engine 后端采用了 ModelSingleton 单例缓存机制，模型（包括 vllm.LLM 实例）会一直驻留在内存中，即使你主动调用 clean_memory 也无法彻底释放 GPU/CPU 占用。clean_memory 只会清理 PyTorch 的缓存和做 gc.collect()，但不会清空 ModelSingleton 里的模型引用，所以每处理一个 PDF，内存会持续增长，直到进程重启或手动清空缓存为止[代码分析][clean_memory 实现]。

这是已知的设计限制，社区和官方也有类似反馈[issue1][issue2]。目前可行的缓解方法有：

• 定期重启进程，彻底释放所有模型和显存。
• 推荐采用 mineru-vllm-server + vlm-http-client 的两进程模式，主进程和推理进程隔离，推理进程挂掉或重启不会影响主服务，内存释放更彻底[官方推荐]。
• 用环境变量 MINERU_VIRTUAL_VRAM_SIZE 限制单进程显存占用，例如 export MINERU_VIRTUAL_VRAM_SIZE=8。
• 大 PDF 建议分批处理，避免一次性加载过多页面导致显存爆炸。
• 用 nvidia-smi/top 监控内存变化，必要时手动清理或重启。

注意：即使在 2.6.x 版本，部分显存（约 2GB）会常驻用于模型缓存，属于正常现象，只有重启进程或清空 ModelSingleton 才能完全释放[issue]。

如果你需要更细粒度的内存释放，建议关注后续版本或考虑自行扩展代码，增加显式清空 ModelSingleton 缓存的能力。

To reply, just mention @dosu.

---

^{How did I do? Good | Irrelevant | Incorrect | Verbose | Hallucination | Report 🐛 | Other}

   

[gaoxincheng]

如何显式清空 ModelSingleton 缓存呢？

[3030373635]

2.6.6 内存与显存。都未正确释放。一直在申请新的内存和显存。到某个时间点，就cuda oom了

[luckydrq]

确实有这个问题，请问怎么解决呢