网络资讯
bit AWQ量化降低本地模型显存占用优化方案
2026-07-26 17:00
label
AWQ量化
4bit量化
模型显存优化
本地部署
大模型推理
低显存解决方案