家用住宅主机千兆内网高速同步大模型文件

为什么你的大模型文件需要内网高速同步

训练或下载好的大模型文件(比如数十GB的LLM权重)体积巨大,通过外网反复上传下载不仅慢,还会占用流量。
利用家用住宅主机的千兆内网,你可以像本地复制一样把文件从一台机器搬到另一台,速度能达到100-120MB/s(千兆理论极限)。
本文面向零基础用户,手把手教你在两台Windows或Linux主机之间用rsync实现高速同步,同时支持断点续传和增量更新。

---

同步前的网络与文件准备

  1. 确认双方在同一千兆网络下
  • 检查电脑的网卡速率:右键网络图标 -> 打开网络和Internet设置 -> 查看属性,确保“链接速度”显示 1000/1000 (Mbps)
  • 如果使用Wi-Fi,请尽量改用有线连接,否则速度会受无线干扰。
  1. 源文件与目标目录
  • 假设源主机(有模型文件的电脑)IP为 192.168.1.100,文件位于 /data/models/llama-7b
  • 目标主机 IP 为 192.168.1.101,你想同步到 /home/user/models/
  • 确保目标目录已创建,并且有写入权限。
  1. 两台主机都要安装 rsync
  • Linux:一般自带,确认命令 which rsync 有输出。
  • Windows:推荐通过 Git Bash 或 WSL 获得 rsync 环境,或者下载 cwRsync。这里以 WSL(Windows Subsystem for Linux)为例:在 Microsoft Store 安装 Ubuntu,打开后执行 sudo apt install rsync

---

配置免密码登录,让同步一气呵成

每次手动输入密码会打断同步脚本,尤其大文件传输时更麻烦。
SSH免密登录是最稳妥的方式。

  1. 在源主机上生成密钥对(如果已有可跳过)
   ssh-keygen -t rsa -b 4096 -f ~/.ssh/id_rsa -N ""

一路回车,不设置密码。

  1. 将公钥复制到目标主机
   ssh-copy-id user@192.168.1.101

输入目标主机的用户密码后,以后登录就不需要密码了。

如果 ssh-copy-id 不可用,手动复制公钥:
cat ~/.ssh/id_rsa.pub,然后登录目标主机,把内容追加到 ~/.ssh/authorized_keys 末尾。
  1. 测试免密登录
   ssh user@192.168.1.101

正常应该直接进入 shell,无需密码。

---

使用 rsync 命令高速同步大模型文件

最核心的命令如下(在源主机上执行):

rsync -avz --progress --partial /data/models/llama-7b/ user@192.168.1.101:/home/user/models/

关键参数解释:

  • -a:归档模式,保留权限、时间戳、递归等。
  • -v:显示详细输出。
  • -z:传输时压缩,内网千兆下建议去掉 -z 反而更快(因为压缩消耗CPU),改为 --no-compress 或直接不加 -z
  • --progress:实时显示传输进度和速度。
  • --partial:保留部分传输的文件,如果中断可以继续而非重新开始。

优化内网速度的建议:去掉压缩、加大传输块大小。
推荐命令:

rsync -av --progress --partial --bwlimit=0 --size-only /data/models/llama-7b/ user@192.168.1.101:/home/user/models/
  • --bwlimit=0:不限速(默认0)。
  • --size-only:只比较文件大小,不比较修改时间,减少扫描开销。

首次同步会传输所有文件。
后续增量同步只需执行相同命令,rsync自动对比源和目标,只发送变化的部分。

---

常见传输中断与异常处理

  • 同步过程中网络断开怎么办? 再次执行上面的命令,--partial 会接着继续,不会从头开始。
  • 提示“Permission denied (publickey)”:检查免密配置是否成功,或确认目标主机 ~/.ssh/authorized_keys 权限为 600chmod 600 ~/.ssh/authorized_keys)。
  • 速度远低于千兆(比如只有10MB/s)
  • 确认交换机/网线是否支持千兆,查看路由器端口灯。
  • 去掉 -z 压缩参数。
  • 检查是否有文件系统瓶颈(如大目录下小文件太多,rsync扫描慢)。
  • 尝试使用 --rsh 指定连接:rsync -av --rsh='ssh -c aes128-ctr' ... 使用更快的加密算法。
  • Windows 路径问题:在 WSL 中,Windows 的路径可以通过 /mnt/c/... 访问,例如 /mnt/d/models

---

同步完成后的完整性检查

可以用 MD5 校验确保大模型文件没有损坏:

源主机目标主机分别计算整个目录的 MD5(注意排除临时文件):

find /data/models/llama-7b -type f -exec md5sum {} \; | sort > /tmp/source.md5

在目标主机上同样计算,然后对比两个文件差异。
如果 diff 结果为空,说明同步完全正确。

如果文件较大,可以只抽检关键文件(如 *.bin*.safetensors)。

---

总结与延伸

通过千兆内网配合 rsync,你的家用住宅主机可以轻松成为大模型文件的快速分发中心。
上述步骤任何新手都能照着做,关键就是免密登录 + rsync参数调优
如果遇到其他异常,建议先回看“常见中断与异常处理”,多数问题都能解决。
如果你后续需要从NAS自动拉取大模型文件,也可以在这个命令基础上叠加定时任务或 inotify 监控,实现实时同步。

提示:本文仅提供通用操作,文件传输前请确保目标磁盘有足够剩余空间,并且源文件目录不要包含挂载点内的软链接,避免循环复制。

分享到:
上一篇
外贸站数据库慢查询优化提升站点访问速度
下一篇
跨境独立站404死链批量清理提交搜索引擎
1
系统公告

机房迁移升级通知

尊敬的用户: IP 段 103.23.148.x、156.224.29.x 原香港一区线路波动、攻击频繁,平台定于 7 月 5 日凌晨分批迁移至香港 GIA 机房,硬件升级 AMD 铂金机型。 迁移均在凌晨操作,最大程度降低业务影响,迁移期间服务器临时关机; 升级后配置不降低、费用不涨价,数据默认同步迁移; 迁移后 IP 全部更换,请及时修改域名解析、防火墙白名单; 建议提前备份重要数据,有问题可联系在线客服。 感谢理解与支持! 泽御云科技 2026.06.30
服务中心
客服
在线客服
24小时为您服务
咨询
联系我们
联系我们,为您的业务提供专属服务。
24/7 技术支持
如果您遇到寻求进一步的帮助,请过工单与我们进行联系。
24/7 即时支持
泽御云
售前客服
泽御云
泽御云
售后客服
泽御云
技术支持
评价
您对当前页面的整体感受是否满意?
😞
非常不满意
😕
不满意
😐
一般
🙂
满意
😊
非常满意