怎么做服务器集群:从两台机器到可验证的高可用
做服务器集群不是先买一堆机器,而是先找出单点故障,再用多台机器分担或备份。
对大多数中小站点,最小可用的集群就是:一台负载均衡入口加两台以上后端服务器,配合健康检查和统一的部署方式。
下面按这个思路给出可执行的搭建过程。
先确认是否真的需要集群
如果只是访问量小、单机 CPU 和内存都没跑满,集群带来的收益有限,反而多出配置同步和排错成本。
出现下面这些情况才值得做:
- 单台服务器故障会导致整站不可用,业务无法接受
- 单机 CPU、内存或连接数在高并发时持续触顶
- 需要滚动发布,不希望发版时中断服务
- 需要按业务拆分不同角色,比如 Web 与数据库分开
集群解决的是“可用性”和“横向扩容”,不解决代码慢、SQL 慢这类问题。
先把单机性能问题查清楚,再考虑加机器。
准备阶段:机器、网络和统一部署
最小方案需要三类机器:
- 1 台负载均衡节点,例如安装 Nginx
- 2 台 Web 后端节点,运行同一套应用
- 可选 1 台数据库节点,或先用云数据库
前提条件:
- 三台机器处于同一内网或能互相访问,后端端口对负载均衡节点开放
- 后端应用监听内网地址,例如
0.0.0.0:8080 - 两台后端的代码、配置、依赖版本保持一致,否则会出现请求落到不同机器结果不同
- 准备好回滚方式,比如保留旧版本目录,改配置前备份
建议先在两台后端上把应用跑通,用 curl http://后端IP:8080 确认各自能返回正常页面,再接入负载均衡。
用 Nginx 做入口和健康检查
在负载均衡节点安装 Nginx(以常见的 Debian/Ubuntu 系为例):
sudo apt update
sudo apt install -y nginx
nginx -v
编辑站点配置,例如 /etc/nginx/conf.d/cluster.conf:
upstream web_backend {
server 10.0.0.11:8080 max_fails=3 fail_timeout=10s;
server 10.0.0.12:8080 max_fails=3 fail_timeout=10s;
keepalive 32;
}
server {
listen 80;
server_name example.internal;
location / {
proxy_pass http://web_backend;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_connect_timeout 3s;
proxy_read_timeout 30s;
}
}
几个关键点:
max_fails=3 fail_timeout=10s表示 10 秒内失败 3 次就暂时摘除该后端,这是 Nginx 自带的被动健康检查keepalive 32复用与后端的连接,减少频繁建连开销- 后端地址换成你实际的内网 IP 和端口
检查配置并生效:
sudo nginx -t
sudo systemctl reload nginx
nginx -t 输出 syntax is ok 和 test is successful 才继续,否则按报错行号修正。
会话和状态怎么处理
这是新手最容易踩的坑。
默认轮询会把同一用户的请求分到不同后端,如果登录状态存在单机内存里,就会出现“一会儿登录一会儿掉线”。
可选做法:
- 把会话存到 Redis 或数据库,后端无状态化,这是最推荐的方式
- 用
ip_hash让同一 IP 固定落到同一后端,实现简单但扩容和容灾不理想 - 在负载均衡上做会话保持,注意后端故障时会话丢失
上传文件同理,不要只存本地磁盘,应放到对象存储或共享存储,否则换一台机器就找不到文件。
验证故障切换是否真的生效
配置完成不等于集群可用,必须做故障演练:
- 连续访问入口,确认请求能在两台后端之间轮转,可在后端日志里观察来源
- 停掉其中一台后端,例如
sudo systemctl stop 应用服务,继续访问入口,确认页面仍能返回 - 恢复该后端,确认它重新被加回轮询
- 检查 Nginx 错误日志
/var/log/nginx/error.log,确认没有持续的连接失败
如果停掉一台后整站报 502,常见原因是健康检查参数没生效、后端端口不对,或只有一台后端在线。
常见误区
- 只做负载均衡不做数据备份,负载均衡节点本身仍是单点,重要业务应准备备用入口或云负载均衡
- 两台后端配置不一致,导致偶发报错,建议用配置管理或统一发布脚本
- 数据库仍是单机,Web 层高可用但数据库一挂全站不可用,需要单独规划主从或云数据库高可用
- 过早引入复杂编排系统,规模小时 Nginx 加两台后端已经够用,先跑稳再演进
如果后端数量继续增加,或需要自动扩缩容,再考虑容器编排或云厂商的负载均衡服务。
先把最小集群跑通并验证过故障切换,再逐步扩展,是更稳妥的做法。