网络资讯
bit量化模型降低住宅主机显存占用方案
2026-07-11 20:40
label
4bit量化
显存占用优化
住宅主机
大模型部署
AutoGPTQ
llama.cpp