网络资讯
bit/8bit模型量化显存占用极致优化落地方案
2026-07-25 02:40
标签
4bit量化
8bit量化
模型量化
显存优化
bitsandbytes
大模型部署