为什么在comfyui里跑这个模型，显存占用跟FP8是一样的
#1
by
taiao
- opened
我是24G显存，跑1024时显存占用大概20G，这个占用和FP8是一样的，是comfyui会尽量占满所有剩余显存吗？有办法限制最大显存占用吗？我之前测试过，NF4只需要15G不到就可以常驻显存。
我希望能稳定预留出显存，给其他应用使用。按道理NF4+T5fp8应该只需要14G左右的显存吧
taiao
changed discussion status to
closed
Comfyui我还没用过，大概它会内部转化成fp8? 想限制显存占用可以试试Forge，有一个专门的选项控制显存占用