作者:残梦新生
备注:转此贴略有修剪…巴拉巴巴啦~~~
N卡用户
把VAE移动到CPU计算,可以直接解决最后潜空间图像转换成可见图像时爆显存的问题。(说人话:AI的草稿转成看得见的作品的时候,最占用显存,让CPU代劳可以节省宝贵的显存。)
修改位置上图。
processing.py第632行后,蓝色高亮区。
samples_ddim = samples_ddim.to(devices.dtype_vae).to(“cpu”)
x_samples_ddim = decode_first_stage(p.sd_model, samples_ddim)
lowvram.py第51行,蓝色高亮区。#
由于我是N卡用户,N卡能调用半精度性能,所以这里我对原文启动参数本身做了魔改。上图。
webui-user.bat,启动参数,蓝色高亮区。
–lowvram –no-half-vae
改好之后,显卡单步速度相对于原文参数大大提升,显存占用直接砍半,综合表现直接吊打纯CPU,8G显存成功实战2048×2048的超大图。
=============
前排提示,本功能对于2G显存的N卡是巨大利好,体验是从不能玩到能玩。
注意:本模式仅限冲击极限,有诸多限制,例如不能使用xformers,要开低显存模式等。
==========
温馨提示:在修改文件之前,先把修改的文件提前备份
站长这里把需要修改的文件已经打包好了,自己下载覆盖就好。