AI大模型认证培训环境搭建：用Ollama开放API并验证

知识分享

2026-11-03 00:00

17 阅读

认证培训的实操环节通常不需要每位学员都有一台GPU机器，更常见的做法是在一台内网服务器上部署模型并开放API，学员用浏览器或客户端调用。
下面以Ollama为例，给出从环境准备到接口验证的完整流程，适用于Linux服务器（Ubuntu 22.04或同类发行版），假设你已有sudo权限并能访问外网。

先确认服务器和网络条件

培训环境要稳定，先检查三件事：系统版本、内存与磁盘、端口是否被占用。

如果服务器在云上，安全组需要放行11434端口，仅对培训网段开放，不要直接对公网开放。

Ollama提供一键安装脚本，安装后以系统服务方式运行。

curl -fsSL https://ollama.com/install.sh | sh

安装完成后检查服务状态：

systemctl status ollama

看到 active (running) 即表示服务已启动。
接着拉取一个适合培训演示的模型，例如：

ollama pull llama3.2:3b

拉取完成后执行 ollama list 应能看到模型名称和大小。
如果拉取缓慢，可检查服务器到外网的带宽，或提前在镜像环境中下载模型文件再导入。

Ollama默认监听 127.0.0.1:11434，只允许本机访问。
要让同一网络内的学员调用，需要修改监听地址。

编辑服务配置：

sudo systemctl edit ollama

在打开的编辑器中加入：

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

保存后重载并重启：

sudo systemctl daemon-reload
sudo systemctl restart ollama

再次执行 ss -tlnp | grep 11434，应看到监听地址变为 0.0.0.0:11434。
此时在学员机器上用curl测试：

curl http://服务器IP:11434/api/generate -d '{
  "model": "llama3.2:3b",
  "prompt": "用一句话解释什么是大模型",
  "stream": false
}'

如果返回JSON且包含 response 字段，说明API可用。
若连接被拒绝，优先检查服务是否重启成功、防火墙是否放行端口。

不要对公网裸奔：开放 0.0.0.0 后务必用安全组或防火墙限制来源IP，只允许培训教室或VPN网段访问。
并发能力有限：单机Ollama适合演示和小规模调用，几十人同时请求会排队。如果培训人数较多，提前用压测工具观察响应时间，必要时限制每人请求频率或准备多台服务器。
模型选择要匹配硬件：3B模型在CPU上也能跑，但生成速度较慢；7B以上建议有GPU。培训前用 ollama run llama3.2:3b 手动跑一次，确认实际响应时间可接受。
服务日志要会看：出问题时执行 journalctl -u ollama -n 50 查看最近日志，常见错误包括端口占用、模型未下载、内存不足。

在正式培训前，按以下清单逐项确认：

学员机器能ping通服务器IP，且 curl http://服务器IP:11434 返回Ollama的欢迎信息。
用curl调用生成接口，返回内容完整，无超时。
用浏览器打开一个简单的HTML页面（可本地创建），通过JavaScript调用API，确认跨域和网络策略正常。如果遇到跨域限制，可在Ollama前加Nginx反向代理并配置CORS头。
模拟5个并发请求（例如用 for 循环发起curl），观察是否全部成功，记录平均响应时间。

完成以上步骤后，学员即可在培训中直接调用API进行练习。
如果后续需要更细的权限控制或监控，可以在Ollama前增加反向代理和访问日志，但基础认证培训的实操环境用上述配置已经足够。