AI法律文书生成怎么用?零基础本地部署与避坑指南
想在本地服务器上跑通 AI 法律文书生成,核心路径是:准备一台带 GPU 或足够内存的 Linux 机器,安装模型运行环境,拉取适合法律文本的中文模型,再通过 Web 界面或 API 调用完成文书起草、条款审查和合同摘要。
下面按零基础可照做的顺序拆解每一步,并给出验证命令和常见报错的处理方向。
先确认你的服务器能不能跑得动
AI 法律文书生成本质上是调用大语言模型处理长文本,对显存和内存有最低要求。
纯 CPU 推理虽然能跑,但生成一份千字文书可能需要数分钟,交互体验较差;
有 NVIDIA GPU 时优先用 GPU 加速。
动手前检查三件事:
- 操作系统:主流 Linux 发行版即可,本文命令以 Ubuntu 22.04 为例。
- 硬件:7B 参数模型量化后约需 6GB 显存或 8GB 以上内存;13B 模型建议 12GB 以上显存。
- 网络:能访问模型下载源,服务器建议放行后续要用的端口。
用下面命令确认 GPU 和内存:
nvidia-smi
free -h
df -h
如果 nvidia-smi 提示命令不存在,说明驱动未安装或当前不是 GPU 机器,后续应改用 CPU 模式并降低模型规模。
安装模型运行环境并拉取中文模型
这里用 Ollama 作为模型运行环境,它把模型下载、加载和 API 服务封装成一条命令,适合零基础起步。
curl -fsSL https://ollama.com/install.sh | sh
systemctl status ollama
服务处于 active 状态后,拉取一个中文能力较好的通用模型。
法律文书生成对中文长文本理解要求高,不建议用参数量过小的模型。
以 7B 级别中文模型为例:
ollama pull qwen2.5:7b
ollama list
拉取完成后直接测试生成能力:
ollama run qwen2.5:7b "请起草一份简单的借款合同,包含借款金额、期限、利率和违约责任四个条款。"
能正常输出结构化条款,说明模型和运行环境已就绪。
如果输出乱码或中断,先检查磁盘空间和内存是否充足。
用 Docker 搭一个可访问的文书生成界面
命令行调用不适合日常使用,可以跑一个带 Web 界面的前端,通过浏览器提交文书需求。
以 Open WebUI 为例,它兼容 Ollama 接口,部署命令如下:
docker run -d \
--name open-webui \
-p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-v open-webui:/app/backend/data \
--restart always \
ghcr.io/open-webui/open-webui:main
启动后浏览器访问 http://服务器IP:3000,首次进入注册管理员账号。
在设置中将模型服务地址指向 http://host.docker.internal:11434,保存后即可在对话界面选择已拉取的模型。
如果页面打不开,按顺序排查:docker ps 确认容器在运行;docker logs open-webui 查看启动日志;
云服务器安全组或本机防火墙是否放行 3000 端口。
把文书生成接到自己的业务接口里
需要批量生成或集成到内部系统时,直接调 Ollama 的 HTTP 接口更合适。
下面用 curl 模拟一次合同条款审查请求:
curl http://localhost:11434/api/generate -d '{
"model": "qwen2.5:7b",
"prompt": "你是一名法务助理,请指出以下条款的风险点:甲方有权随时单方面解除合同且不承担任何赔偿责任。",
"stream": false
}'
返回 JSON 中的 response 字段就是生成结果。
生产环境要注意两点:不要在提示词中直接粘贴真实当事人身份信息;
对生成结果保留人工复核环节,AI 输出不能直接作为正式法律文件使用。
生成效果不理想时先查这几个地方
法律文书对准确性敏感,常见问题集中在三类:
- 条款遗漏或格式混乱:在提示词中明确角色、文书类型、必含条款和输出格式,例如要求“分条列出,每条包含条款标题和正文”。
- 模型编造法条:通用模型可能生成不存在的法条编号,涉及具体法律依据时必须人工核对现行有效文本。
- 响应超时:长文书生成耗时较长,接口调用时适当调大超时时间;显存不足时换更小的量化模型或减少单次输入长度。
另外,ollama serve 默认只监听本机,跨机器调用需要配置监听地址,同时用防火墙限制来源 IP,避免模型接口暴露到公网被滥用。
验证部署是否真正可用
完成以上步骤后,用三个动作确认环境可用:命令行 ollama run 能稳定输出中文段落;
浏览器界面能选择模型并完成一次多轮对话;
API 返回的 JSON 中 response 字段非空且内容与提示词相关。
三项都通过,再考虑接入业务系统或增加文书模板。
如果部署在显存较小的机器上,优先选择 7B 级别量化模型,并控制单次生成字数;
对法律依据准确性要求高的场景,应把 AI 定位为草稿辅助工具,而不是替代法务审核。