显存是什么
VRAM · 作者:夸父
一句话定义:显存是显卡上专门存放运算数据的内存,是跑 AI 模型的硬门槛——模型能不能跑、跑多快,先看显存够不够,其次才看芯片算力。
为什么 AI 特别吃显存
AI 推理要把整个模型权重加载进显存,同时还要为每一层运算留出工作空间。一个几 GB 的生图模型,实际运行时占的显存会翻倍——这就是为什么"模型 6GB、建议显存 8GB"的原因。
常见任务的大致门槛
文生图(SDXL 系)8GB 起步;大分辨率/复杂工作流 12GB 舒适;视频生成模型 16GB+;数字人口型同步(MuseTalk)8GB 可跑。显存不够的表现不是报错就是极慢——某些框架还会自动把溢出部分挪到内存用 CPU 算,速度掉一个数量级。
判断与处理
跑任务时开任务管理器或 nvidia-smi 看显存占用:顶满就是瓶颈。缓解顺序:降分辨率 → 减小批量 → 关掉其他占显存的程序 → 换更大的卡。买卡决策参考显卡怎么选。
显存都花在哪了
跑 AI 模型时显存的三块开销:模型权重(整个模型加载进来——SDXL 生图模型约 67GB)、激活与中间结果(与生成分辨率正相关,1024×1024 比 512×512 贵 4 倍)、框架开销(CUDA 上下文等固定 0.51GB)。所以"8GB 显存跑 7GB 模型"是不够的——还要留给计算空间。
省显存的常用手段
按代价从小到大:降低生成分辨率(最直接,减半分辨率省约 3/4 显存);启用 CPU offload(把部分权重挪到内存,速度换显存);Tiled VAE/分块处理(大图分块生成拼接);量化模型(用压缩版权重,微降质量换显存)。ComfyUI 的启动参数与节点配置里这些选项都有。
显存与速度的关系
显存够用时,速度瓶颈在算力(GPU 的 Tensor 性能);显存不够时,速度断崖(溢出到内存/CPU)。一个实用判断:同参数下生成时间突然翻几倍——先查显存是不是爆了(nvidia-smi),而不是怀疑模型变笨。升级决策的完整账见显卡选型。


