大模型Ollama Linux配置：从安装到调优的完整步骤

想在Linux上跑大模型，Ollama是目前比较省事的选择。
它把模型下载、运行和API服务打包在一起，基本一条命令就能启动。
下面按零基础也能跟做的顺序，讲清楚安装、配置、拉取模型和验证的完整过程。

先确认系统环境和资源

Ollama官方提供Linux安装脚本，主流x86_64架构的Ubuntu、Debian、CentOS等发行版都能用。
开始前先检查三件事：

• 内存：7B参数模型建议至少8GB内存，13B以上建议16GB或更多。
• 磁盘：模型文件通常几个GB到几十GB，/usr/share/ollama所在分区要留足空间。
• 网络：能访问GitHub和模型仓库，否则安装和拉取会失败。

用下面命令快速查看：

free -h
df -h /usr/share
uname -m

如果uname -m输出x86_64或aarch64，说明架构支持。
内存不足时先加swap或换小参数模型，不要硬跑。

安装Ollama并启动服务

官方推荐用安装脚本，执行：

curl -fsSL https://ollama.com/install.sh | sh

脚本会自动下载二进制、创建ollama用户并注册systemd服务。
安装完成后检查服务状态：

systemctl status ollama

看到active (running)说明服务已启动。
如果失败，用journalctl -u ollama -n 50查看日志，常见原因是网络超时或磁盘空间不足。

注意：生产环境不建议直接root运行，安装脚本默认已用独立用户，保持默认即可。

配置监听地址和模型存储路径

默认Ollama只监听127.0.0.1:11434，本地调用没问题，但要从其他机器访问API就需要改监听地址。
通过systemd覆盖配置实现：

sudo systemctl edit ollama

在打开的编辑器中加入：

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_MODELS=/data/ollama/models"

第一行让服务监听所有网卡，第二行把模型存储改到大分区。
保存后重载并重启：

sudo systemctl daemon-reload
sudo systemctl restart ollama

验证监听端口：

ss -tlnp | grep 11434

如果看到0.0.0.0:11434，说明配置生效。开放公网访问前务必配置防火墙，只允许可信IP访问11434端口，避免模型服务被滥用。

拉取模型并做一次推理测试

用ollama pull下载模型，例如：

ollama pull qwen2.5:7b

下载完成后列出本地模型：

ollama list

然后直接运行一次对话测试：

ollama run qwen2.5:7b "用一句话解释什么是Linux"

能正常返回文本，说明模型加载和推理都正常。
如果卡住或报内存错误，先检查free -h，再考虑换更小的模型标签。

避坑与高频问题

• 安装脚本下载慢或失败：检查服务器到GitHub的网络，必要时配置代理或手动下载二进制。
• ollama pull卡住：模型仓库较大，确认磁盘空间和网络稳定性，不要反复中断重试。
• 服务启动后端口不通：先确认systemctl status ollama正常，再检查防火墙和OLLAMA_HOST是否写对。
• 模型回答很慢：7B模型在纯CPU上推理速度有限，属于正常现象；有GPU时Ollama会自动尝试调用，但需要驱动和容器运行时支持。

验证配置是否真正可用

最后做两项检查：

1. 本机API调用：

curl http://127.0.0.1:11434/api/tags

应返回JSON格式的模型列表。

1. 远程调用（如果改了监听地址）：从另一台机器执行curl http://服务器IP:11434/api/tags，能返回同样内容说明网络和防火墙配置正确。

两项都通过后，大模型Ollama Linux配置就算完成。
后续可以在应用里通过http://IP:11434接入Ollama的API，或者继续调整模型参数和并发设置来适配自己的负载。