网络资讯
bit/8bit模型量化极致降低显存占用方案
2026-08-04 00:00
label
模型量化
显存优化
4bit量化
8bit量化
大模型部署
bitsandbytes