大模型Ollama Windows配置:从安装到跑通第一个模型
在 Windows 上配置 Ollama,核心就三件事:装好客户端、改对模型存储路径、确认服务能正常拉取和运行模型。
下面按零基础也能照做的顺序,把安装、配置、验证和排错一次讲清。
装之前先确认两件事
Ollama 对 Windows 环境有基本要求,提前检查能少走弯路:
- 系统版本:建议 Windows 10 22H2 及以上或 Windows 11。版本过低可能缺少运行库,安装程序会直接报错。
- 磁盘空间:模型文件通常几个 GB 起步,默认下载到系统盘。如果 C 盘剩余空间不足 20GB,先看后面的“改模型存储路径”部分。
- 显卡(可选):有 NVIDIA 显卡且驱动较新时,Ollama 会自动尝试 GPU 加速;没有独显也能用 CPU 运行,只是速度慢一些。
打开 PowerShell,用 winver 可以快速查看系统版本。
显卡信息在任务管理器“性能”标签页里能看到。
安装 Ollama 并确认服务状态
- 访问 Ollama 官网下载 Windows 安装包(通常是一个
.exe文件),双击运行,按默认选项安装即可。 - 安装完成后,Ollama 一般会注册为后台服务并在托盘区出现图标。如果没有自动启动,在开始菜单搜索 “Ollama” 手动打开。
- 打开 PowerShell,执行:
ollama --version
能输出版本号,说明命令行工具已可用。
接着检查服务端口:
curl http://127.0.0.1:11434
返回 Ollama is running 字样,说明本地 API 服务正常。
这个 11434 端口就是后续其他工具调用 Ollama 的默认地址。
改模型存储路径,避免撑爆 C 盘
Ollama 默认把模型放在用户目录下,路径通常是:
C:\Users\你的用户名\.ollama\models
模型一多,系统盘很快吃紧。
建议在安装完成后、拉取模型之前就改掉。
- 在 D 盘或空间充足的盘新建目录,例如
D:\ollama\models。 - 打开“系统属性 → 高级 → 环境变量”,在“用户变量”里新建:
变量名:OLLAMA_MODELS
变量值:D:\ollama\models
- 保存后,重启 Ollama 服务(托盘图标右键退出,再重新打开),或者重启电脑让变量生效。
- 验证是否生效:拉一个小模型后,去
D:\ollama\models看是否有文件生成;原 C 盘目录不再增长即说明配置成功。
如果之前已经下载过模型,可以把旧目录里的 blobs 和 manifests 文件夹整体剪切到新目录,避免重复下载。
拉取并运行第一个模型
配置好路径后,用命令行拉一个体积较小的模型做验证,例如:
ollama pull qwen2.5:3b
拉取完成后直接运行:
ollama run qwen2.5:3b
出现 >>> 提示符后,输入一句“你好,介绍一下你自己”,能正常流式输出中文,就说明模型运行成功。
输入 /bye 退出对话。
想查看本机已下载的模型,执行 ollama list。
如果拉取过程中断,重新执行 ollama pull 会续传,不用从头开始。
常见报错与避坑
端口被占用:启动时报 bind: Only one usage of each socket address,说明 11434 端口被其他程序占了。
用 netstat -ano | findstr 11434 找到进程 PID,在任务管理器里结束它,再重启 Ollama。
拉取模型特别慢或超时:先确认网络能正常访问模型仓库。
如果公司网络有限制,可以尝试更换网络环境,或在 Ollama 设置里配置代理相关环境变量(如 HTTPS_PROXY),改完记得重启服务。
有显卡但速度没提升:先更新 NVIDIA 驱动,再执行 ollama run 时观察任务管理器 GPU 占用。
部分旧显卡或显存过小的型号可能仍走 CPU,这属于正常现象,不是配置错误。
改完环境变量不生效:环境变量分“用户变量”和“系统变量”,改完后必须重启 Ollama 进程,只关窗口不算重启。
实在不确定就重启一次电脑。
验证配置是否真的可用
除了命令行对话,还可以用 API 方式确认服务对外可用。
在 PowerShell 里执行:
curl http://127.0.0.1:11434/api/tags
返回 JSON 列表且包含刚才拉取的模型名,说明本地 API 正常。
后续如果要接其他客户端或脚本,填 http://127.0.0.1:11434 作为服务地址即可。
最后提醒一点:Ollama 的模型和参数会随版本更新变化,安装包和模型名称以你下载时页面显示为准。
配置过程中每改一个环境变量就重启一次服务并验证,比一次性改一堆再排查要省时间。
按本文顺序走完,Windows 上的 Ollama 基本就能稳定用于本地对话和接口调用了。