有什么可以帮到您的？

面向需要监控 AI 服务器 GPU 利用率的运维和算法同学，说明 nvidia-smi 与 DCGM 在利用率监控上的区别，给出 dcgm-exporter 的启动命令、Prometheus 抓取配置和关键指标解读，并整理常见采集异常与验证方法。

AI服务器GPU显存监控怎么做？本文从 nvidia-smi 基础命令讲到 DCGM Exporter 指标采集，给出显存占用排查、进程清理和告警配置的具体命令与验证方法，适合刚接手 GPU 服务器的运维新手。

AI服务器GPU功耗监控实操：从 nvidia-smi 查看实时功耗，到 DCGM Exporter 采集功率指标、Prometheus 告警配置，覆盖常见报错与验证方法，适合运维新手。

面向AI服务器运维新手，讲清GPU温度监控的落地方法：用nvidia-smi快速查看温度、用DCGM Exporter采集温度指标、在Prometheus中配置告警规则，并给出高温排查顺序和验证方式。

面向AI服务器运维人员，介绍DCGM的安装配置流程，包括驱动检查、dcgm-exporter部署、Prometheus抓取配置以及常见报错处理，帮助实现GPU状态监控。

面向AI服务器运维新手，讲清GPU监控配置的完整流程：检查驱动、安装DCGM、启动dcgm-exporter、接入Prometheus与Grafana，并说明显存、温度、ECC等关键指标怎么看，适合需要长期观察多卡状态的场景。

面向需要让多个训练或推理任务共用一块GPU的运维人员，讲解AI服务器GPU共享配置的MIG方案。从检查显卡型号与驱动、启用MIG模式、创建GPU实例和计算实例，到用容器绑定实例并验证显存与算力隔离，包含常见报错和避坑说明。

面向需要在一台 AI 服务器上让多台虚拟机共享 GPU 的运维人员，说明 NVIDIA vGPU 的适用条件、宿主机与虚拟机两侧的驱动安装顺序、虚拟机 vGPU 分配方法，以及常见报错如驱动加载失败、虚拟机黑屏的排查方向。

面向 AI 服务器运维人员，讲清 GPUDirect RDMA 的配置前提、驱动安装顺序、peermem 加载和带宽验证命令。包含 nvidia peermem 模块检查、ib write bw --use cuda 测试方法以及常见加载失败的处理思路，适合正在调试多机多卡训练网络的环境参考。

面向AI服务器运维新手，梳理RoCE配置的完整流程：网卡驱动检查、交换机PFC/ECN设置、服务器端无损队列配置，以及用ibv devinfo和perftest验证带宽与丢包，附常见失败原因和回退方法。