大模型反向代理配置：Nginx 转发 API 请求的完整步骤
把大模型服务放在内网或本地端口，再通过 Nginx 反向代理对外提供统一 HTTPS 入口，是最常见的部署方式。
本文以 Ubuntu 22.04 + Nginx 为例，配置一个将 http://127.0.0.1:8000 的大模型 API 转发到 https://api.example.com 的完整流程，适合刚接触服务器运维的读者照着操作。
先确认代理目标和运行环境
开始前需要明确两件事：大模型服务实际监听的地址和端口，以及你希望对外暴露的域名。
本文假设模型服务运行在本机 127.0.0.1:8000，已经能通过 curl http://127.0.0.1:8000/v1/models 返回正常结果。
如果这一步不通，先解决模型服务本身，反向代理不负责修复后端异常。
服务器需要安装 Nginx，并放行 80 和 443 端口。
用下面命令检查：
nginx -v
ss -lntp | grep -E ':80|:443'如果 Nginx 未安装，执行 sudo apt update && sudo apt install nginx -y。
防火墙方面，如果使用 ufw，运行 sudo ufw allow 'Nginx Full'；
云服务器还需在控制台安全组放行 80、443。
编写反向代理配置
Nginx 的站点配置通常放在 /etc/nginx/sites-available/，再软链接到 sites-enabled。
新建文件：
sudo nano /etc/nginx/sites-available/llm-proxy.conf写入以下内容，将 api.example.com 替换成你自己的域名：
server {
listen 80;
server_name api.example.com;
location / {
proxy_pass http://127.0.0.1:8000;
proxy_http_version 1.1;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
# 大模型流式响应需要关闭缓冲并延长超时
proxy_buffering off;
proxy_cache off;
proxy_read_timeout 300s;
proxy_send_timeout 300s;
}
}这里几个参数直接影响大模型调用体验：proxy_buffering off 让流式输出边生成边返回，避免前端长时间空白；proxy_read_timeout 300s 给长文本生成留足时间，默认 60 秒往往不够。
保存后启用站点并检查语法：
sudo ln -s /etc/nginx/sites-available/llm-proxy.conf /etc/nginx/sites-enabled/
sudo nginx -t
sudo systemctl reload nginxnginx -t 输出 syntax is ok 和 test is successful 才表示配置可加载。
配置 HTTPS 与请求头透传
对外提供 API 建议启用 HTTPS。
用 Certbot 申请证书最省事：
sudo apt install certbot python3-certbot-nginx -y
sudo certbot --nginx -d api.example.com按提示选择自动跳转 HTTPS。
完成后 Nginx 配置会自动增加 443 监听和证书路径。
此时务必保留前面 location / 里的 proxy_set_header 和超时参数，Certbot 只改 server 块外层，一般不会覆盖 location 内容，但建议用 sudo nginx -T | grep -A 20 'location /' 复查一遍。
如果你的大模型服务依赖 Authorization 请求头传递密钥，Nginx 默认会透传，无需额外配置。
但不要在 Nginx 里打印或记录该头，避免密钥进入访问日志。
常见报错与避坑
502 Bad Gateway 通常表示 Nginx 连不上后端。
先在服务器上执行 curl -v http://127.0.0.1:8000/v1/models，确认模型服务是否存活；
再检查 proxy_pass 的 IP 和端口是否写错。
如果模型服务跑在 Docker 容器里，127.0.0.1 可能指向宿主机而非容器，需要改用容器 IP 或 host.docker.internal。
504 Gateway Timeout 多与超时有关。
除了调大 proxy_read_timeout，还要确认模型服务自身没有设置更短的请求超时。
另外，流式响应场景下如果 Nginx 开了 proxy_buffering on，客户端可能表现为“卡住很久才一次性返回”，按本文配置关闭缓冲即可。
请求体过大被拒：大模型接口可能上传较长上下文。
Nginx 默认 client_max_body_size 1m，可在 server 块内加 client_max_body_size 20m;，按实际需要调整。
证书续期后未生效：Certbot 会自动创建续期任务，可用 sudo certbot renew --dry-run 验证。
不要手动删除 /etc/letsencrypt 下的文件。
验证代理是否真正可用
配置完成后，从外部机器执行：
curl -i https://api.example.com/v1/models预期返回 HTTP 200 和模型列表 JSON。
再测试流式接口，观察是否逐段返回而不是长时间等待：
curl -N https://api.example.com/v1/chat/completions \
-H 'Content-Type: application/json' \
-d '{"model":"your-model","stream":true,"messages":[{"role":"user","content":"你好"}]}'如果返回内容分多段出现，说明代理和流式配置正常。
最后查看 Nginx 错误日志确认没有隐藏异常：
sudo tail -f /var/log/nginx/error.log日志中不应持续出现 connect() failed 或 upstream timed out。
几个容易被问到的问题
反向代理后大模型响应变慢怎么办？ 先对比直连后端和经过代理的耗时。
若直连正常、代理慢，检查是否开启了 proxy_buffering，以及服务器出口带宽是否被占满。
能不能一个域名代理多个模型服务？ 可以，
用不同 location 前缀转发到不同后端，
例如 /model-a/ 和 /model-b/，
但要注意后端路径是否匹配，
必要时使用 proxy_pass 带 URI 的写法。
Nginx 配置改完必须重启吗？ 不需要，sudo systemctl reload nginx 即可平滑加载。
只有修改监听端口等少数情况才考虑 restart。
完成以上步骤后，大模型反向代理配置就基本落地了。
后续如果更换模型服务端口或域名，优先检查 proxy_pass 和证书是否同步更新。
