Ollama 多模型管理：从拉取到切换的实操指南

Ollama 多模型管理，核心就是让同一台机器上的多个大模型互不干扰地运行、切换和清理。
本文面向零基础用户，从安装 Ollama 开始，一步步演示拉取模型、查看模型、运行和切换模型，并给出常见报错的处理方式。

安装 Ollama 与验证环境

Ollama 是一个本地大模型运行工具，支持在 Linux、macOS 和 Windows 上运行。
下面以 Linux 为例，其他系统可参考官方安装方式。

先确认系统架构和内存情况：

uname -m
free -h

然后执行官方安装脚本：

curl -fsSL https://ollama.com/install.sh | sh

安装完成后，检查服务状态和版本：

systemctl status ollama
ollama --version

如果 systemctl status 显示 active (running)，说明 Ollama 服务已经启动。
如果提示命令不存在，重新登录终端或检查安装脚本输出。

拉取多个模型并查看清单

Ollama 的模型通过 ollama pull 拉取。
例如拉取两个不同规模的模型：

ollama pull llama3.2:1b
ollama pull qwen2.5:3b

拉取完成后，用 ollama list 查看本地已有模型：

ollama list

输出会包含模型名称、大小和修改时间。注意：模型名称后的标签（如 :1b、:3b）代表参数规模，拉取时写清楚标签，避免误拉成默认版本。

运行与切换模型的常用方式

直接运行某个模型进入交互对话：

ollama run llama3.2:1b

在对话界面输入 /bye 退出。
要切换到另一个模型，先退出当前对话，再执行 ollama run qwen2.5:3b。

如果希望通过 API 调用不同模型，Ollama 默认监听 http://127.0.0.1:11434。
用 curl 测试：

curl http://127.0.0.1:11434/api/generate -d '{
  "model": "llama3.2:1b",
  "prompt": "你好",
  "stream": false
}'

把 model 字段换成另一个模型名，就能在不重启服务的情况下调用不同模型。关键点：多个模型可以同时存在于本地，但运行时按需加载，内存不足时 Ollama 会自动卸载不活跃的模型。

删除模型与释放空间

不再需要的模型可以用 ollama rm 删除：

ollama rm llama3.2:1b

删除后再次执行 ollama list 确认模型已消失。
如果磁盘空间仍然紧张，可以检查 Ollama 的模型存储目录（Linux 默认在 /usr/share/ollama/.ollama/models），但不建议手动删除目录内文件，优先使用 ollama rm。

常见报错与避坑说明

• 拉取模型超时：检查网络是否能访问模型仓库，必要时配置代理。
• 运行模型提示内存不足：换用更小参数规模的模型，或关闭其他占用内存的进程。
• 端口 11434 被占用：用 ss -tlnp | grep 11434 查看占用进程，调整 Ollama 服务配置或停止冲突服务。
• 模型名称写错：用 ollama list 核对准确名称和标签，再执行运行或删除命令。

验证多模型管理是否生效

完成以上步骤后，按下面清单逐项检查：

• ollama list 能列出两个及以上模型；
• 分别运行不同模型，均能正常对话；
• 通过 API 指定不同 model 字段，均返回结果；
• 删除一个模型后，列表和磁盘占用同步变化。

如果某项不通过，回到对应步骤检查命令输出和错误提示。
Ollama 多模型管理并不复杂，关键是记住模型名称和标签，按需拉取、运行和清理。

常见疑问

多个模型会同时占用内存吗？
Ollama 按需加载模型，不活跃的模型会被卸载，但具体行为受版本和内存策略影响，建议以实际运行时的内存占用为准。

能否为不同模型配置不同端口？
Ollama 服务默认使用单一端口，多模型通过请求中的 model 字段区分，不需要为每个模型单独开端口。

模型文件可以手动备份吗？
可以备份模型存储目录，但恢复时建议保持目录结构一致，并优先通过 ollama pull 重新拉取，避免版本不一致。