
从 14GB 压到 3.67GB:Qwen-Image-2.1 量化包把文生图搬进消费级显卡
ChatR Labs 把 rank-128 Omni 适配器合并进 Qwen-Image-2.1 再做全格式量化,从 14.23GB 到 3.67GB 共十三种形态,ComfyUI 和 Diffusers 各有对应选择。
相关标签
从 14GB 压到 3.67GB:Qwen-Image-2.1 量化包把文生图搬进消费级显卡
想在本地跑文生图,最劝退的往往不是模型能力而是显存账单。ChatR Labs 上榜 HuggingFace 热门榜的 Qwen-Image-2.1-Uncensored-Omni-Quantized 把这笔账算到了极致:同一个模型给出从 14.23GB 到 3.67GB 的十三种量化形态,ComfyUI 和 Diffusers 两条生态各自都有对应选择,最小的一档 NF4 只需要 bitsandbytes 就能加载。
它是什么、怎么用
这是一个 text-to-image 生成与图像编辑两用的权重包:把 ChatR Labs 自研的 rank-128 Omni 适配器以 LoRA 强度 1.0 合并进 Qwen 官方的 Qwen-Image-2.1 底座,再做全格式量化。仓库只发 transformer 权重,文本编码器、processor 和 VAE 从官方底座仓库取。实测推荐参数来自官方网格搜索:采样 35 步、True CFG 5.0(生成与编辑一致)、er_sde 采样器配 simple scheduler。
选型矩阵是这个包的真正卖点
模型卡直接回答了”我该下哪个文件”:ComfyUI 想要单文件通吃生成和编辑两条工作流,选任意 GGUF(BF16 14.23GB、Q8_0 7.69GB、Q6_K 6.00GB、Q5_K_M 5.21GB、Q4_K_M 4.47GB、Q4_0 4.20GB);想用原生量化算子,选 FP8、INT8 ConvRot 或 NVFP4(4.20GB)的 ComfyUI 专用 safetensors;Diffusers 用户要最小下载选 NF4(3.67GB),要最高保真选 FP8 torchao;追求极限保真则回到 BF16 或 Q8_0。GGUF 也能通过 from_single_file 在 Diffusers 里加载,两条生态并不割裂。
文档还交代了 297 和 265 两种张量布局的区别(融合与非融合的 MLP 投影表示),并明确标注 BF16 工作流只在 ComfyUI 0.39.0 的原生 UNETLoader 上验证过——这种”哪些组合测过、哪些别假设能用”的写法,在量化发布里并不常见。
适合谁
手头是 8GB 到 24GB 消费级显卡、想在 ComfyUI 或 Diffusers 里本地出图和修图的用户。与直接搬官方权重再压一档的常见做法不同,这个包的核心增量是那个 Omni 适配器——合并后统一提供生成与编辑能力,量化只是让它跑得动的手段。如果你只需要原汁原味的 Qwen-Image-2.1,官方底座仍是第一选择。
模型地址:https://huggingface.co/chatrlabs/Qwen-Image-2.1-Uncensored-Omni-Quantized
更多资讯
想看更多优质内容?
浏览所有资讯