面向 AI 服务器运维人员,讲清 GPUDirect RDMA 的配置前提、驱动安装顺序、peermem 加载和带宽验证命令。包含 nvidia peermem 模块检查、ib write bw --use cuda 测试方法以及常见加载失败的处理思路,适合正在调试多机多卡训练网络的环境参考。
面向 AI 服务器运维人员,讲清 GPUDirect RDMA 的配置前提、驱动安装顺序、peermem 加载和带宽验证命令。包含 nvidia peermem 模块检查、ib write bw --use cuda 测试方法以及常见加载失败的处理思路,适合正在调试多机多卡训练网络的环境参考。
面向需要在AI服务器上配置cuDNN的运维和算法用户,说明如何根据已有CUDA版本选择cuDNN、完成库文件部署、设置动态链接路径,并通过命令和框架验证配置是否生效。
在AI服务器上配置CUDA环境,从检查驱动兼容性、安装Toolkit到验证nvcc和运行测试程序。提供具体命令和避坑指南,帮助新手完成CUDA配置并排查版本冲突。
AI服务器故障排查教程,针对GPU掉卡、训练中断、Xid报错、温度过高等常见问题,提供nvidia-smi、dmesg、BMC日志等定位命令和修复步骤,帮助运维新手快速恢复AI服务器运行。
面向AI服务器集群运维场景,提供日常巡检清单、GPU与网络故障排查命令、BMC带外管理路径和避坑要点,帮助运维人员快速验证集群健康状态并处理常见异常。
面向需要管理多台GPU服务器的运维和算法同学,讲清AI服务器集群管理的落地方法:节点准备、Slurm调度配置、GPU监控和常见报错排查,照着命令就能搭起可用的训练集群。
面向需要给AI服务器上液冷的运维人员,讲清冷板、快接头、CDU和管路的配置方法,包含流量压力检查、漏液检测接线与调试命令,帮助避开混液和接头不匹配等常见问题。
AI服务器散热配置教程,从风道规划、风扇策略调整到温度验证,适合运维新手解决GPU服务器过热降频问题,提供命令和操作路径。
围绕AI服务器存储配置,讲清系统盘与训练数据盘的分工、NVMe硬盘分区格式化挂载命令、目录规划与常见避坑。适合刚拿到GPU服务器、需要为模型训练准备存储的新手照着操作。
AI服务器内存配置需要先算容量再调系统参数。本文讲清如何按模型参数量估算内存需求,如何设置vm.swappiness和NUMA绑定,并给出free、numactl等验证命令,帮助新手完成内存配置与检查。