Nginx反向代理AI中转网关配置
服务器与Nginx环境准备
开始之前,请确保你有一台公网服务器(建议Debian/Ubuntu系统),并且已经安装了Nginx。
如果还没安装,按以下命令两步搞定:
sudo apt update
sudo apt install nginx -y
安装完成后,用sudo nginx -v检查版本,看到版本号就说明成功了。
另外,你需要一个已经解析到这台服务器的域名(例如 api.example.com),用于对外提供服务。
如果只是为了内网测试,也可以直接用IP,但不推荐。
核心配置:编写AI中转网关的反向代理规则
Nginx配置反向代理的核心参数是proxy_pass。
假设你要把客户端请求转发到 https://api.openai.com(或其他AI服务地址),并希望客户端只认你自定的域名,可以这样操作:
- 在Nginx站点目录下新建配置文件:
sudo nano /etc/nginx/sites-available/ai-gateway
- 写入以下内容(根据你的实际AI接口地址修改
proxy_pass的目标):
server {
listen 80;
server_name api.example.com;
location / {
proxy_pass https://api.openai.com;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_ssl_verify off; # 如果目标API使用自签证书可关闭验证
proxy_buffering off; # 流式输出场景必须关闭缓冲
proxy_read_timeout 300s; # 长响应时间需要超时配合
proxy_send_timeout 60s;
}
}
- 启用配置并重启Nginx:
sudo ln -s /etc/nginx/sites-available/ai-gateway /etc/nginx/sites-enabled/
sudo nginx -t # 检查语法
sudo systemctl reload nginx
注意:如果你的AI接口需要自定义请求头(例如 Authorization),客户端会将原请求头发送到中转网关,Nginx会原样转发给目标。无需额外配置。
必须避开的几个坑
1. HTTPS证书问题
如果你用域名对外提供网关,建议尽快为域名配置SSL(使用Let's Encrypt免费证书)。
否则客户端用HTTP请求时,中转网关与目标API之间也可能出现协议不匹配。
配置SSL的方法:使用certbot一键获取证书。
例如:
sudo apt install certbot python3-certbot-nginx -y
sudo certbot --nginx -d api.example.com
完成后Nginx会自动加载HTTPS段落。
2. 代理缓存与流式输出冲突
一些AI接口返回流式数据(如SSE),proxy_buffering必须设置为off,否则客户端会等待所有数据缓冲完毕才收到响应,导致体验卡顿。
上述配置已包含。
3. 超时时间不够
AI接口的响应可能很长(几十秒到几分钟),默认的60秒超时经常触发502错误。
建议根据你的接口最长响应时间调节proxy_read_timeout,至少设置300秒以上。
验证网关是否正常工作
方法一:命令行curl测试
curl -X POST https://api.example.com/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer YOUR_API_KEY" \
-d '{"model": "gpt-3.5-turbo", "messages": [{"role": "user", "content": "Hello"}]}'
如果返回正常内容,说明中转生效。
如果出现502,重点检查proxy_pass的URL是否可达,以及Nginx日志(/var/log/nginx/error.log)。
方法二:对比直接调用与通过网关调用的响应头
# 直接调用目标API
curl -I https://api.openai.com/v1/chat/completions -H "Authorization: Bearer YOUR_KEY"
# 通过网关调用
curl -I https://api.example.com/v1/chat/completions -H "Authorization: Bearer YOUR_KEY"
对比server、via等字段,可以确信流量经过了你的网关。
高频问题解答
Q:客户端收到“504 Gateway Time-out”怎么办?
A:增大proxy_read_timeout和proxy_connect_timeout的值;同时确认目标API能够返回响应,而不是卡死。
Q:为什么我的请求头(如Authorization)没有转发?
A:Nginx默认会转发客户端发来的Authorization头,proxy_set_header一栏不必特意设置。如果确实没收到,检查客户端是否真的发送了该头。
Q:Nginx反向代理后,AI接口返回的响应Header中域名还是原来的,怎么隐藏?
A:使用proxy_set_header Host $host;可以让目标认为请求来自你的域名。如果还想完全隐藏源站,可以加上proxy_redirect off;并调整server字段(需要配合sub_filter模块)。
如果你正在处理Nginx反向代理AI中转网关配置,建议先按本文步骤完整执行,再根据自己的环境做微调;
遇到异常时优先回看避坑和高频问题部分。