Ollama离线模型包无网络住宅主机部署教程

为什么要用离线方式部署Ollama模型？

很多住宅主机（比如家用服务器、无网办公机）无法直接连接互联网。
这时候想用Ollama运行大语言模型，就需要先在有网环境把模型包下载好，再通过U盘或内网传输到目标机器。
本教程手把手教你在无网络住宅主机上部署Ollama离线模型包，从前期准备到最终验证，每一步都可直接照做。

第一步：准备需要的环境和工具

• 目标主机：一台没有互联网的住宅主机（Linux / Windows / macOS 均可），本文以 Ubuntu 22.04 为例。
• 有网辅助机：一台能连接互联网的电脑（同架构最佳，避免兼容问题）。
• 传输介质：U盘、移动硬盘或内部局域网文件夹。
• Ollama 安装包：从 Ollama 官方 下载对应系统的离线安装包（.deb / .rpm / .msi）。也可以在有网辅助机上先安装 Ollama。
• 模型包来源：通过 ollama pull 拉取你需要的模型，然后打包模型目录。

注意：住宅主机建议使用 Linux 系统，减少驱动和路径问题。Windows 版 Ollama 也支持，但模型目录路径不同。

第二步：在有网辅助机上拉取模型并打包

1. 安装 Ollama（有网辅助机）

   # Ubuntu/Debian
   curl -fsSL https://ollama.com/install.sh | sh

安装完成后运行 ollama -v 确认版本。

1. 拉取你需要的模型（以 llama2 7B 为例）

   ollama pull llama2

等待下载完成，此时模型文件会存放在 ~/.ollama/models 目录下。

1. 打包模型目录

   tar -czf ollama_models_backup.tar.gz -C ~/.ollama models

也可以直接打包整个 .ollama 目录（包含配置和缓存）。

   tar -czf ollama_full_backup.tar.gz ~/.ollama

1. 将打包文件复制到U盘或内网共享文件夹。

第三步：在无网络住宅主机上部署Ollama

1. 安装Ollama本体（如果之前没装）

• 将提前下载好的 Ollama 安装包（如 ollama-linux-amd64.deb）复制到目标主机。
• 执行安装：

     sudo dpkg -i ollama-linux-amd64.deb

• 如果提示依赖缺失，尝试 sudo apt install -f 补全。

1. 恢复模型包

• 将之前打包的 ollama_full_backup.tar.gz 放到用户家目录。
• 先停止 Ollama 服务（如果正在运行）：

     sudo systemctl stop ollama

• 覆盖模型目录：

     rm -rf ~/.ollama   # 清空旧目录（如果存在）
     tar -xzf ollama_full_backup.tar.gz -C ~/

• 解压后检查目录结构是否正确：

     ls -la ~/.ollama/models/blobs/

应该能看到一些 .bin 或分片文件。

1. 启动Ollama服务

   sudo systemctl start ollama

或者直接前台启动（方便看日志）：

   ollama serve &

等待几秒，确认服务监听在 127.0.0.1:11434。

第四步：验证离线部署是否成功

• 查看已安装的模型列表

  ollama list

应该能看到你之前推送的模型名称（如 llama2:latest）。

• 运行一个简单对话

  ollama run llama2 "Hello, what can you do?"

正常返回回答说明部署成功。

• 检查模型路径（可选）

  ls -lh ~/.ollama/models/blobs/ | head -5

确认文件没有被截断。

常见问题与避坑

• 模型文件权限不足：解压后 ~/.ollama 目录必须属于当前用户，可以用 chown -R $(whoami) ~/.ollama 修复。
• ollama list 为空：检查 ~/.ollama/models 下是否有 blobs/ 和 manifests/ 子目录，如果缺少，说明打包时遗漏了。
• 依赖缺失无法启动服务：在无网环境下，可以手动下载缺少的依赖包（比如 libc6、libssl），或者使用静态编译版本的 Ollama 二进制文件（可以提前在辅助机上下载）。
• 端口冲突：如果 11434 被占用，修改启动参数 ollama serve --port <新端口>。
• 跨架构传输：如果辅助机是 ARM（如树莓派），目标主机是 x86，模型文件不通用，必须同架构拉取。

总结

按照本教程的步骤，你可以把 Ollama 离线模型包顺利部署到任何无网络的住宅主机上。
整个流程的关键在于：使用同架构的辅助机拉取模型，正确打包 ~/.ollama 目录，并在目标主机上恢复。
遇到异常时优先检查文件完整性和用户权限，大部分问题都可以通过重新复制包解决。
如果你想了解更高级的离线部署方案（比如使用 Docker 导出镜像），可以继续查看本站的进阶教程。