AI服务器驱动安装:GPU显卡驱动与CUDA环境部署

AI服务器驱动安装的核心是让操作系统正确识别GPU,并让CUDA工具链能调用它。
多数AI服务器使用NVIDIA GPU,因此本文以Linux系统下安装NVIDIA驱动和CUDA为例。
操作前请确认你拥有root权限或sudo权限,并已经备份重要数据。

装之前先确认显卡型号和系统版本

不同GPU型号和Linux发行版对驱动版本的要求不同,先查清楚再动手可以避免下错包。

执行以下命令查看显卡型号:

lspci | grep -i nvidia

正常会输出类似3D controller: NVIDIA Corporation GA100 [A100 PCIe 40GB]的信息。
记下型号,后面选驱动版本要用。

查看系统版本和内核:

cat /etc/os-release
uname -r

如果是Ubuntu 22.04或CentOS 7这类常见系统,NVIDIA官网和各大云厂商都提供了对应的驱动包。
建议优先使用NVIDIA官方.run文件或系统包管理器安装,不要混用两种方式。

禁用nouveau并安装编译依赖

Linux自带的nouveau开源驱动会和NVIDIA官方驱动冲突,必须先禁用。

创建黑名单文件:

sudo tee /etc/modprobe.d/blacklist-nouveau.conf <

更新initramfs并重启:

sudo update-initramfs -u   # Ubuntu/Debian
# 或 sudo dracut --force    # CentOS/RHEL
sudo reboot

重启后确认nouveau没有加载:

lsmod | grep nouveau

没有任何输出就表示禁用成功。
接着安装编译依赖,以Ubuntu为例:

sudo apt update
sudo apt install -y build-essential gcc make linux-headers-$(uname -r)

CentOS系统使用sudo yum install -y gcc make kernel-devel-$(uname -r)。
缺少内核头文件是驱动安装失败最常见的原因之一。

安装NVIDIA驱动和CUDA

从NVIDIA官网下载对应型号的驱动.run文件,或者直接安装CUDA Toolkit,因为CUDA安装包自带驱动。
如果只需要驱动,可以只装驱动;
如果要做深度学习训练,建议直接装CUDA Toolkit。

以CUDA 12.x为例,下载后赋予执行权限并运行:

chmod +x cuda_12.x.x_linux.run
sudo ./cuda_12.x.x_linux.run

安装界面中,如果系统已经装了驱动,可以取消勾选Driver,只装CUDA Toolkit;
如果还没装驱动,保持默认勾选即可。
安装过程中会提示是否创建/usr/local/cuda软链接,选是。

安装完成后,将CUDA路径加入环境变量:

echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
source ~/.bashrc

验证驱动是否生效

驱动装完后,最关键的一步是确认nvidia-smi能正常输出。
执行:

nvidia-smi

如果能看到GPU型号、显存大小、驱动版本和CUDA版本表格,说明驱动安装成功。
同时检查CUDA编译器:

nvcc -V

输出应显示CUDA版本号。
如果nvidia-smi报“command not found”,先检查/usr/bin/nvidia-smi是否存在,再确认PATH是否包含/usr/local/cuda/bin。

常见报错和避坑提醒

报错“Unable to find the kernel source tree”:
说明缺少内核头文件,
回到上一步安装linux-headers-$(uname -r),
然后重新运行驱动安装程序。

安装后nvidia-smi提示“No devices were found”:先确认nouveau已禁用并重启,再检查GPU是否被BIOS或虚拟化平台正确直通。
云服务器需要确认GPU实例已绑定驱动。

驱动版本与CUDA版本不匹配:nvidia-smi右上角显示的CUDA版本是驱动支持的最高版本,不是当前安装的CUDA版本。
实际CUDA版本以nvcc -V为准。

不要随意升级内核:内核升级后可能需要重新编译驱动模块。
生产环境建议锁定内核版本,或升级后重新运行驱动安装程序。

装完后的检查清单

驱动安装完成后,建议按顺序确认:nvidia-smi正常输出、nvcc -V显示版本、lsmod | grep nvidia能看到nvidia模块加载、/dev/nvidia*设备文件存在。
如果后续要跑训练任务,再用一个小脚本测试CUDA是否可用,例如运行python -c "import torch; print(torch.cuda.is_available())"(需已安装PyTorch)。

如果以上检查都通过,AI服务器驱动安装就完成了。
遇到异常时,优先回看nouveau是否禁用、内核头文件是否匹配、驱动和CUDA版本是否对应,这三处能解决大部分安装问题。

分享到:
上一篇
AI服务器安全加固:从SSH到GPU访问的实操清单
下一篇
AI服务器CUDA配置:避开版本冲突的安装与验证流程
1
系统公告

关于香港云优质服务器IP地址更换的通知

尊敬的客户: 因原IP运营商大幅涨价,为避免成本转嫁至用户,我司决定更换IP服务商。本次更换后,您的续费价格将保持不变,且新IP网络质量与服务标准不受影响。新IP已分配至后台,即刻生效(更换的新IP都是香港原生IPv4)。 涉及 IP 段: 45.192.x.x 旧 IP 停用时间: 2026 年 12 月 1 日
服务中心
客服
在线客服
24小时为您服务
咨询
联系我们
联系我们,为您的业务提供专属服务。
24/7 技术支持
如果您遇到寻求进一步的帮助,请过工单与我们进行联系。
24/7 即时支持
泽御云
售前客服
泽御云
泽御云
售后客服
泽御云
技术支持
评价
您对当前页面的整体感受是否满意?
😞
非常不满意
😕
不满意
😐
一般
🙂
满意
😊
非常满意