面向需要在信创环境部署AI服务器的运维人员,说明国产CPU、操作系统与加速卡的兼容性检查方法,提供驱动安装、设备识别和框架验证的具体命令与避坑要点,帮助零基础用户完成基础配置。
面向需要在信创环境部署AI服务器的运维人员,说明国产CPU、操作系统与加速卡的兼容性检查方法,提供驱动安装、设备识别和框架验证的具体命令与避坑要点,帮助零基础用户完成基础配置。
面向需要在AI服务器上配置MLOps的运维和新手,说明GPU容器环境准备、MLflow服务部署、训练代码接入跟踪与验证方法,附常见报错处理和避坑要点。
面向需要批量管理AI推理服务器的运维人员,讲清AI服务器DevOps配置怎么做:用Ansible清单、剧本和Docker Compose统一安装GPU运行时、下发推理容器并验证,附常见报错排查与避坑要点。
解决AI服务器多任务争抢GPU的问题,提供基于Docker和nvidia-smi的算力配额限制实操步骤,涵盖环境检查、容器配置、避坑与验证,适合需要公平分配GPU资源的运维人员。
AI服务器GPU快照配置教程,讲解训练任务如何通过检查点保存完整状态,涵盖保存目录、保存频率、多卡一致性、恢复验证和快照前避坑,适合需要保住GPU训练进度的运维和算法人员。
面向需要让多个训练或推理任务共用一块GPU的运维人员,讲解AI服务器GPU共享配置的MIG方案。从检查显卡型号与驱动、启用MIG模式、创建GPU实例和计算实例,到用容器绑定实例并验证显存与算力隔离,包含常见报错和避坑说明。
面向AI服务器运维新手,讲解RDMA(RoCEv2)配置的完整流程:识别Mellanox网卡、安装OFED驱动、配置PFC/ECN、绑定IP、用ib write bw验证带宽。包含常见报错和避坑清单,帮助你在训练集群中稳定启用RDMA。
在AI服务器上配置CUDA环境,从检查驱动兼容性、安装Toolkit到验证nvcc和运行测试程序。提供具体命令和避坑指南,帮助新手完成CUDA配置并排查版本冲突。
面向AI服务器集群运维场景,提供日常巡检清单、GPU与网络故障排查命令、BMC带外管理路径和避坑要点,帮助运维人员快速验证集群健康状态并处理常见异常。
围绕AI服务器存储配置,讲清系统盘与训练数据盘的分工、NVMe硬盘分区格式化挂载命令、目录规划与常见避坑。适合刚拿到GPU服务器、需要为模型训练准备存储的新手照着操作。