大模型垂直领域微调：从数据准备到LoRA训练验证

大模型垂直领域微调，简单说就是用你所在行业的专业数据，对开源大模型做二次训练，让它更懂你的业务术语和回答习惯。
本文以零基础可操作为目标，用 LoRA 方法在单张消费级显卡上完成一次微调，覆盖数据准备、训练命令、报错处理和效果验证。
适用环境：Linux + Python 3.10 + PyTorch，显存建议 16GB 以上。

先确认你的数据能不能用

微调效果八成取决于数据质量。
垂直领域数据通常来自客服对话、工单记录、产品手册或内部文档。
你需要把它们整理成 JSONL 格式，每行一个样本，包含 instruction、input、output 三个字段。

{"instruction": "解释一下什么是负载均衡", "input": "", "output": "负载均衡是将访问流量分发到多台服务器的技术……"}

数据量建议至少 500 条，低于这个数量模型很难学到领域特征。
注意去掉重复样本、过长文本和包含敏感信息的记录。

搭建训练环境

推荐用 conda 创建独立环境，避免依赖冲突。

conda create -n finetune python=3.10 -y
conda activate finetune
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
pip install transformers datasets peft accelerate bitsandbytes

安装完成后用 python -c "import torch; print(torch.cuda.is_available())" 检查，输出 True 表示显卡可用。
如果返回 False，先检查驱动和 CUDA 版本是否匹配。

用 LoRA 启动训练

LoRA 只训练少量低秩矩阵，显存占用低，适合垂直领域快速迭代。
以下是一个可运行的训练脚本片段，以 Qwen2.5-7B 为例，模型路径替换成你本地下载的目录。

from transformers import AutoModelForCausalLM, AutoTokenizer, TrainingArguments
from peft import LoraConfig, get_peft_model
from datasets import load_dataset

model_path = "/data/models/Qwen2.5-7B"
tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(model_path, device_map="auto", trust_remote_code=True)

lora_config = LoraConfig(
    r=8,
    lora_alpha=16,
    target_modules=["q_proj", "v_proj"],
    lora_dropout=0.05,
    bias="none"
)
model = get_peft_model(model, lora_config)

dataset = load_dataset("json", data_files="train.jsonl", split="train")

训练参数中 per_device_train_batch_size 设为 2 到 4，gradient_accumulation_steps 设为 4 到 8，learning_rate 从 2e-4 开始尝试。
启动后观察 loss 是否稳定下降，如果 loss 不降或剧烈震荡，优先检查数据格式和标签对齐。

常见报错与避坑

第一类高频问题是显存不足，报错 CUDA out of memory。
解决办法是降低 batch size、开启 gradient_checkpointing，或者把 r 从 8 降到 4。
不要直接加显卡，先确认参数是否合理。

第二类是 KeyError: 'instruction' 之类的字段错误，说明 JSONL 里字段名和脚本不一致。
用 head -n 1 train.jsonl 查看第一条样本，确保字段名完全匹配。

第三类是模型输出乱码或重复。
常见原因是 tokenizer 没有设置 pad_token，可以在加载后执行 tokenizer.pad_token = tokenizer.eos_token。
另外，垂直领域数据里如果混入了大量低质量短文本，也会让模型学会“敷衍回答”，训练前做一次人工抽检很有必要。

验证微调效果

训练结束后，LoRA 权重会保存在输出目录。
用 PeftModel.from_pretrained 加载基础模型和权重，准备 20 条未参与训练的领域问题做对比测试。

验证时重点看三个指标：回答是否包含领域术语、是否出现事实错误、格式是否符合预期。
如果效果不明显，先增加数据量到 1000 条以上，再调整 r 和 learning_rate。
不要一次改多个参数，否则无法判断哪个改动起了作用。

微调不是一劳永逸的事，垂直领域知识会更新，建议每季度用新数据做一次增量训练，并保留上一版权重用于回滚。

两个容易忽略的细节

训练前备份原始模型目录，避免误覆盖。
LoRA 权重文件很小，但基础模型一旦被改坏，重新下载成本很高。

另外，如果你在云服务器上训练，注意检查磁盘空间。
7B 模型加上数据集和中间 checkpoint，建议预留 50GB 以上空间。
用 df -h 查看挂载点，空间不足时训练会在保存 checkpoint 阶段失败，报错信息不一定直观。

按照以上步骤执行，你可以在单卡环境下完成一次垂直领域微调，并通过对比测试判断效果是否达标。
遇到异常时，优先回看数据格式和显存配置这两部分。