IOPaint低内存模式:4GB显存旧本稳定跑SD图像修复
IOPaint低内存模式4GB显存旧本稳定跑SD图像修复【免费下载链接】IOPaintImage inpainting tool powered by SOTA AI Model. Remove any unwanted object, defect, people from your pictures or erase and replace(powered by stable diffusion) any thing on your pictures.项目地址: https://gitcode.com/GitHub_Trending/io/IOPaint打开IOPaint跑Stable Diffusion重绘任务显存几秒钟飙到90%生成阶段直接OOM。在4GB显存的旧笔记本上IOPaint的低内存模式Low Memory Modelow_mem参数就是为这种场景准备的。核心概念速览开启低内存模式后模型管线会执行两项操作注意力切片和VAE分块tiling。前者把注意力计算拆成小块分段执行后者让VAE变分自编码器负责把潜变量解码回像素图的组件按块解码图像而不是整图一次性解码显存峰值随之下降。相当于把整图一次性加载的搬运方式改成了分批配送。实现入口在 iopaint/model/utils.py 的enable_low_mem函数中各扩散模型SD、SDXL、ControlNet等加载时统一调用。上手指南在设置界面勾选低内存模式推荐启动IOPaint打开设置页面切换到模型Model选项卡。勾选 Low Memory 复选框界面定义见 iopaint/web_config.py 中的low_mem控件。若显存仍然吃紧可同时勾选 CPU Offload模型权重放到内存与 CPU Text Encoder文本编码器放CPU。保存配置后重启再执行修复任务。命令行启动IOPaint低内存模式命令行或批量处理场景下直接在启动命令中追加参数即可选项定义见 iopaint/cli.pypython -m iopaint start --low_mem --model runwayml/stable-diffusion-inpainting显存不够时再加--cpu_offload --cpu_textencoder三个选项互相独立可以按需组合。效果验证指标标准模式低内存模式low_memTrue显存占用偏高低显存卡易OOM降低切片分块解码设备覆盖自动化回归CUDA / Apple SiliconCUDA / Apple Silicon / 纯CPU对比结论来自 iopaint/tests/test_low_mem.py 的自动化回归low_memTrue时同一个 runwayml/stable-diffusion-inpainting 模型在 CUDA、Apple SiliconMPS和纯CPULCM采样5步三种设备上均通过生成校验。避坑指南为什么生成的图全黑或发绿多半是FP16半精度计算的兼容性问题。勾选--no_half切回全精度FP32占的显存略多出图颜色恢复正常。开启后生成为什么变慢了切片和分块会带来额外的搬运开销速度比标准模式略慢换的是更低的显存峰值。显存够用时关掉它即可。开启后仍然OOM怎么办再叠加--cpu_offload把模型权重移到内存或--cpu_textencoder让文本编码器跑在CPU上两个选项在设置界面都有对应勾选框。纯CPU机器能跑吗可以。测试文件已验证 low_mem 开启时 SD 1.5 配合LCM采样能在CPU上跑通但速度有限只适合处理小图。适用边界适合谁4GB显存左右的旧笔记本或亮机卡边跑模型边挂着浏览器等多任务的并行场景批量处理512×512及以下的小图只有CPU、没有独显的机器。不适合谁1024×1024以上的大图生成切片后速度损失明显要求实时响应的交互创作流程多个大模型串联的复杂pipeline显存本来就够、追求速度的场景。结尾显存告急时把低内存模式打开是第一件该做的事。更多参数说明见 README.md。【免费下载链接】IOPaintImage inpainting tool powered by SOTA AI Model. Remove any unwanted object, defect, people from your pictures or erase and replace(powered by stable diffusion) any thing on your pictures.项目地址: https://gitcode.com/GitHub_Trending/io/IOPaint创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考