Olama对接Open WebUI搭建私有可视化AI服务教程

自己搭一个私有的 AI 聊天服务，既能保护数据隐私，又能用自己的 GPU 或 CPU 跑模型。
Ollama 负责管理模型和推理，Open WebUI 提供一个漂亮的网页界面，两者对接后就能在浏览器里像用 ChatGPT 一样和本地模型对话。

需要准备什么

一台安装了 Linux 的服务器（CentOS 7+、Ubuntu 20.04+ 均可），有至少 8GB 内存和 10GB 可用磁盘。
如果你打算用 GPU 加速，还需要 NVIDIA 驱动和 Docker 的 GPU 支持，不过纯 CPU 也能跑，只是慢一些。

操作前确认服务器已经装了 Docker。
没装的话执行以下命令：（以 Ubuntu 为例）

sudo apt update
sudo apt install docker.io -y
sudo systemctl start docker
sudo systemctl enable docker

在服务器上装好 Ollama

Ollama 的安装非常简单，官方提供了一键脚本，直接运行：

curl -fsSL https://ollama.ai/install.sh | sh

安装完成后，启动 Ollama 服务（默认监听 11434 端口）：

sudo systemctl start ollama
sudo systemctl enable ollama

拉取一个模型来测试。
以 Meta 的 Llama 3.1 8B 为例，容量约 4.7GB，耐心等待下载：

ollama pull llama3.1:8b

下载完成后，验证是否可用：

ollama run llama3.1:8b "你好"

看到模型回复就说明 Ollama 工作正常。

用 Docker 拉起 Open WebUI

Open WebUI 官方提供了 Docker 镜像，一条命令就能启动。
注意需要把 Ollama 的地址传给容器：

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
  -e OLLAMA_BASE_URL=http://host.docker.internal:11434 \
  ghcr.io/open-webui/open-webui:main

• -p 3000:8080 把容器的 8080 端口映射到宿主机的 3000 端口，您可以根据需要改成其他端口。
• --add-host 让容器内能通过 host.docker.internal 访问宿主机服务（Ollama）。
• -v open-webui:/app/backend/data 持久化用户数据（聊天记录等）。
• -e OLLAMA_BASE_URL 指定 Ollama 的地址，如果 Ollama 和 Open WebUI 在同一台服务器上，用这个地址就可以。

启动后可以用 docker ps 查看容器是否正常运行。

连接与配置

在浏览器里访问 http://你的服务器IP:3000，第一次访问会进入注册页面。
先注册一个管理员账号，然后登录。

进入主界面后，在左下角设置里应该能看到已经自动发现了 Ollama 中的模型（比如 llama3.1:8b）。
如果没出现，请检查 OLLAMA_BASE_URL 环境变量是否正确，以及防火墙是否放行了 11434 端口。

选择一个模型，输入任意问题，如果模型返回回答，说明对接成功。

避坑与常见问题

Q：访问 3000 端口没反应？
A：先确认容器是否在运行（docker ps）。再检查服务器防火墙：

sudo ufw allow 3000/tcp   # 如果用了 ufw
sudo firewall-cmd --permanent --add-port=3000/tcp && sudo firewall-cmd --reload  # 如果用了 firewalld

云服务器还需要在安全组中放行对应端口。

Q：模型下载特别慢怎么办？
A：Ollama 默认从官方仓库拉取，国内环境建议使用镜像加速。可以参考官方文档设置 OLLAMA_HOST 和代理，或者手动下载模型文件。

Q：Open WebUI 里看不到模型？
A：检查 Open WebUI 容器的日志：docker logs open-webui，看是否有连接 Ollama 失败的错误。确保 Ollama 服务已启动且端口未被防火墙拦截。

Q：每次重启服务器后都要手动启动？
A：Ollama 和 Docker 容器都已经设置了 --restart always 和 enable，开机后会自动拉起，无需手动操作。

搭建完成后，你就可以在局域网内任意设备打开浏览器，用私有 AI 服务了。
如果遇到其他问题，欢迎在评论区留言。