本地Ollama住宅机器一键部署指南

还在为不会配置复杂环境而烦恼？
Ollama 是一个能够让你在本地机器上运行大语言模型（如 Llama、Mistral）的工具，并提供了简洁的命令行接口。
本文就带你在自己的住宅电脑上实现一键部署，不需要租服务器，也无需深厚技术背景。

准备工作：确认你的硬件和系统

在开始之前，请确认你的机器满足以下最低要求：

• 操作系统：Windows 10 或更高版本 / macOS 10.13+ / 主流 Linux 发行版（如 Ubuntu 20.04+）
• 内存：建议 8GB 以上，运行较大模型（如 7B 参数）需要 16GB
• 磁盘空间：至少 5GB 空闲，用于下载模型和程序本身
• GPU（可选但有帮助）：NVIDIA 显卡可显著加速推理；AMD 或 Intel 显卡也能工作，但性能较低

如果你使用的是 Linux，建议先确保安装了 curl、tar 等基本工具。
Windows 用户只需确保系统更新到最新版本即可。

一键部署：两种系统下的自动安装

Ollama 官方提供了安装脚本，真正实现“一键”操作。

1. Linux / macOS 用户

打开终端，直接执行以下命令：

curl -fsSL https://ollama.com/install.sh | sh

这个脚本会自动检测你的系统类型、安装依赖并下载 Ollama 二进制文件。
整个过程大约需要一两分钟。
安装完成后，终端会提示“Installation complete”。

2. Windows 用户

访问 Ollama 官网下载页，点击“Download for Windows”。
下载完成后，双击安装包，一路点击“Next”即可。
安装结束后，Ollama 会自动在后台启动，并在系统托盘显示图标。

安装完成后，你可以在任意终端（Windows 推荐 PowerShell 或 CMD）输入 ollama --version 来验证是否安装成功。
如果显示版本号，代表安装成功。

首次运行：下载并测试一个模型

Ollama 安装后并不会自带模型，你需要选择并下载一个模型。
这里我们选择轻量级的 llama3.2:1b 作为测试，它只需要不到 1GB 内存。

继续在终端执行：

ollama run llama3.2:1b

首次运行会自动拉取模型文件（大约 800MB），下载速度取决于你的网络。
下载完成后会直接进入交互模式，你可以直接输入问题，比如“你好，请做自我介绍”。
如果模型正常回复，说明部署成功。

如果想运行更大的模型（如 7B 或 13B 版本），可以修改模型名称，例如 ollama run llama3.2:7b，但要确保你的机器内存足够。

避坑与常见问题解答

1. 下载模型慢或失败？

Ollama 默认从官网拉取模型，国内用户可能需要配置代理或使用镜像源。
你可以设置环境变量 OLLAMA_BASE_URL 指向国内镜像，比如：

• Linux/macOS: export OLLAMA_BASE_URL=https://ollama-mirror.example.com （请替换为真实可用的镜像地址）
• Windows: setx OLLAMA_BASE_URL "https://ollama-mirror.example.com"

2. 端口冲突导致启动失败？

Ollama 默认监听 11434 端口。
如果端口被占用，可以在启动前设置环境变量 OLLAMA_HOST 指定其他端口，例如 export OLLAMA_HOST=0.0.0.0:11435。

3. GPU 加速不生效？

对于 NVIDIA 显卡，需要安装 CUDA 工具包。
Windows 用户可安装 NVIDIA 驱动（Studio Driver），Linux 用户需安装 nvidia-driver 和 nvidia-cuda-toolkit。
安装后重启 Ollama，运行 ollama run 时可以看到“Using GPU”的日志。

4. 如何停止正在运行的模型？

直接在交互窗口输入 /bye 即可退出。

验证与后续使用

完成以上步骤后，你的本地住宅机器已经成功部署了 Ollama。
你可以通过以下方式验证：

• 重新打开终端，输入 ollama list，应该能看到已下载的模型列表。
• 使用 ollama run llama3.2:1b 再次进入对话。
• 如果需要在其他设备（如手机或其他电脑）上访问，确保本地防火墙允许 11434 端口，设置环境变量 OLLAMA_HOST=0.0.0.0 使 Ollama 监听所有网络接口。然后使用 http://你的IP:11434 发送 API 请求。

Ollama 还支持通过 Docker 部署、自定义模型参数、以及集成第三方 UI（如 Open WebUI）。
如果你对更高级的应用感兴趣，可以继续阅读本专栏的其他相关教程。

现在，赶快动手试一下吧！
任何自定义设置都可在熟悉基础流程后再进行。