大模型Ollama模型下载全流程:从安装到拉取模型避坑指南
在 Linux 服务器上使用 Ollama 下载大模型,核心操作就是安装 Ollama 后执行 ollama pull 模型名。
整个过程不需要 GPU 也能跑小参数模型,但下载速度、磁盘空间和模型存储路径是新手最容易卡住的三个点。
下面按实际执行顺序说明。
先确认服务器环境与磁盘空间
Ollama 官方提供 Linux 安装脚本,主流 x86_64 架构的 Ubuntu、Debian、CentOS 等发行版基本可用。
开始前先检查两项:
- 磁盘剩余空间:7B 量化模型通常需要数 GB 空间,可用
df -h查看挂载点剩余容量,建议模型目录所在分区至少预留 20GB 以上。 - 内存与 CPU:纯 CPU 运行 7B 模型建议内存不低于 8GB,内存不足时模型加载会失败或极慢。
执行检查命令:
df -h
free -h
uname -m
如果 uname -m 输出 x86_64 或 aarch64,说明架构在支持范围内。
安装 Ollama 并启动服务
官方一键安装命令如下,执行后会创建 ollama 系统用户和 systemd 服务:
curl -fsSL https://ollama.com/install.sh | sh
安装完成后检查服务状态:
systemctl status ollama
看到 active (running) 表示服务已启动。
如果服务未运行,用 systemctl start ollama 启动,再用 systemctl enable ollama 设置开机自启。
下载模型:ollama pull 的实际用法
拉取模型用 ollama pull,例如下载一个常见的 7B 量化模型:
ollama pull qwen2.5:7b
命令执行后会显示下载进度,模型文件默认存放在 /usr/share/ollama/.ollama/models。
下载完成后可用以下命令确认模型已存在:
ollama list
输出中能看到模型名称和大小即表示下载成功。
接着用 ollama run qwen2.5:7b 进入交互对话,输入一句测试内容,能正常返回结果说明模型可运行。
如果服务器磁盘空间有限,建议在下载前修改模型存储路径。
编辑服务配置:
systemctl edit ollama
在打开的编辑器中加入:
[Service]
Environment="OLLAMA_MODELS=/data/ollama/models"
保存后执行 systemctl daemon-reload && systemctl restart ollama,再重新拉取模型。
注意 /data/ollama/models 目录需要提前创建并确保 ollama 用户有写权限。
下载慢、超时或失败的排查思路
国内服务器直连官方模型仓库可能速度很慢甚至超时,常见表现是 pull 卡在某个百分比或报连接错误。
可以按以下顺序排查:
- 先测试网络连通性:
curl -I https://registry.ollama.ai,看是否能正常返回响应头。 - 检查磁盘是否已满:
df -h,空间不足时下载会中断。 - 确认服务日志:
journalctl -u ollama -n 50,日志里通常会写明具体错误原因。 - 如果只是速度慢,可以保持命令运行并观察进度,Ollama 支持断点续传,中断后重新执行同一条
ollama pull会继续下载。
需要提醒的是,使用第三方镜像或代理源时要自行确认来源可信,不要随意执行来源不明的脚本。
验证与日常使用建议
下载完成后,建议做一次完整验证:ollama list 确认模型存在,ollama run 模型名 确认能对话,再检查服务是否开机自启。
日常使用时,如果模型较多,定期用 du -sh /usr/share/ollama/.ollama/models 查看占用,避免磁盘被占满影响其他服务。
对于刚接触大模型Ollama模型下载的读者,先跑通一个小参数模型,再根据内存和磁盘情况换更大模型,是更稳妥的路径。
遇到报错时优先看 journalctl 日志和磁盘空间,多数问题都能快速定位。