大模型Ollama Mac配置:从安装到跑通第一个模型
在 Mac 上配置 Ollama,核心只有三件事:装好客户端、确认服务能启动、拉取并跑通一个模型。
Apple 芯片(M 系列)可以直接使用 GPU 加速,Intel 芯片也能运行但速度偏慢。
本文按零基础可照做的顺序,把安装、配置、验证和排错一次讲清。
先确认你的 Mac 能不能跑,以及装哪个版本
Ollama 官方提供 macOS 安装包,下载地址为 https://ollama.com/download。
打开页面后选择 macOS 版本即可。
安装前先确认两件事:
- 芯片类型:点击左上角苹果菜单,选择“关于本机”,查看“芯片”一栏。显示 Apple M1/M2/M3/M4 等为 Apple 芯片;显示 Intel 则为 Intel 芯片。
- 内存大小:同一页面可以查看“内存”。7B 级别模型通常需要 8GB 以上空闲内存,13B 以上建议 16GB 或更高。内存不足时模型可能加载失败或系统明显卡顿。
如果只是体验本地对话,优先选择参数量较小的模型,例如 qwen2.5:7b 或 llama3.2:3b,不要一上来就拉 30B 以上的大模型。
安装与首次启动
下载得到 .dmg 文件后,双击打开,把 Ollama 图标拖入“应用程序”文件夹。
首次打开时 macOS 可能提示“无法验证开发者”,此时到“系统设置 → 隐私与安全性”页面,点击“仍要打开”即可。
安装完成后,Ollama 通常会以菜单栏图标的形式运行。
点击菜单栏的 Ollama 图标,可以看到服务状态。
更推荐打开“终端”用命令验证:
ollama --version
能输出版本号说明命令行工具已经可用。
如果提示 command not found,说明安装未完成或终端环境变量未生效,重新打开终端再试,仍不行则重新安装。
拉取模型并完成第一次对话
服务启动后,在终端执行拉取命令。
以 7B 模型为例:
ollama pull qwen2.5:7b
下载时间取决于网络和模型大小,终端会显示进度。
下载完成后运行:
ollama run qwen2.5:7b
出现 >>> 提示符后输入一句话,例如“用一句话解释什么是 HTTP”,能正常返回内容即表示配置成功。
输入 /bye 退出对话。
常用管理命令:
ollama list # 查看已下载模型
ollama ps # 查看正在运行的模型
ollama rm 模型名 # 删除不需要的模型
改监听地址和模型目录:什么时候需要动配置
默认情况下 Ollama 只监听本机 127.0.0.1:11434,模型存放在用户目录下。
如果你需要让局域网内其他设备调用,或者想把模型放到外置硬盘,才需要修改环境变量。
在 macOS 上,图形界面启动的 Ollama 读取的是 launchd 环境变量,而不是终端里的 export。
推荐用 launchctl 设置:
launchctl setenv OLLAMA_HOST "0.0.0.0:11434"
launchctl setenv OLLAMA_MODELS "/Volumes/你的外置盘/ollama-models"
设置后退出 Ollama 菜单栏程序再重新打开,使配置生效。
验证监听地址:
lsof -iTCP:11434 -sTCP:LISTEN
看到监听在 *:11434 或 0.0.0.0:11434 即表示修改成功。
注意:把 OLLAMA_HOST 设为 0.0.0.0 会暴露到局域网,务必确认所在网络可信,不要在公共 Wi-Fi 下这样配置。
修改模型目录前先创建目标文件夹,已有模型需要手动迁移,否则会重新下载。
常见报错与避坑
端口被占用:执行 lsof -iTCP:11434 查看占用进程,结束旧进程或换端口。
换端口时同时修改 OLLAMA_HOST,例如 127.0.0.1:11435。
模型加载失败或系统卡死:多数是内存不足。
先用 ollama ps 确认没有残留模型进程,再换更小参数量的模型。
不要同时运行多个大模型。
终端能跑、其他程序连不上:检查是否只监听了 127.0.0.1。
需要被其他设备访问时按上一节修改 OLLAMA_HOST,并用 lsof 复查。
下载中断:重新执行 ollama pull 会续传,不必删除已有文件。
网络不稳定时避免同时拉取多个模型。
验证配置是否真正生效
完成以上步骤后,按顺序做三项检查:ollama --version 有版本输出;ollama list 能看到已下载模型;ollama run 模型名 能正常对话。
如果修改过监听地址,再加一项 lsof -iTCP:11434 -sTCP:LISTEN 确认监听范围符合预期。
三项都通过,说明 Mac 上的 Ollama 配置已经可用。
如果需要在其他设备上调用接口,可以用 curl http://本机IP:11434/api/tags 测试返回是否正常。
返回 JSON 列表即表示服务可访问。
读者常问的几个问题
Intel Mac 能装 Ollama 吗? 可以安装和运行,但缺少 Apple 芯片的统一内存和 GPU 加速,推理速度会明显慢一些,建议从 3B 级别小模型开始。
模型下载很慢怎么办? 先确认网络稳定,避免同时拉多个模型。
Ollama 会断点续传,中断后重新执行 ollama pull 即可,不需要清空已有文件。
改了环境变量为什么不生效? 图形界面启动的 Ollama 不读取终端 export,需要用 launchctl setenv 设置,并重启 Ollama 程序。
只改终端配置时,从 Finder 启动的进程看不到这些变量。
Ollama 和直接跑 GGUF 文件有什么区别? Ollama 封装了模型下载、运行和接口服务,适合快速上手;
直接加载 GGUF 更灵活,但需要自己处理运行环境和参数。
零基础用户优先用 Ollama 跑通流程。