AI服务器驱动安装:GPU显卡驱动与CUDA环境部署
AI服务器驱动安装的核心是让操作系统正确识别GPU,并让CUDA工具链能调用它。
多数AI服务器使用NVIDIA GPU,因此本文以Linux系统下安装NVIDIA驱动和CUDA为例。
操作前请确认你拥有root权限或sudo权限,并已经备份重要数据。
装之前先确认显卡型号和系统版本
不同GPU型号和Linux发行版对驱动版本的要求不同,先查清楚再动手可以避免下错包。
执行以下命令查看显卡型号:
lspci | grep -i nvidia
正常会输出类似3D controller: NVIDIA Corporation GA100 [A100 PCIe 40GB]的信息。
记下型号,后面选驱动版本要用。
查看系统版本和内核:
cat /etc/os-release
uname -r
如果是Ubuntu 22.04或CentOS 7这类常见系统,NVIDIA官网和各大云厂商都提供了对应的驱动包。
建议优先使用NVIDIA官方.run文件或系统包管理器安装,不要混用两种方式。
禁用nouveau并安装编译依赖
Linux自带的nouveau开源驱动会和NVIDIA官方驱动冲突,必须先禁用。
创建黑名单文件:
sudo tee /etc/modprobe.d/blacklist-nouveau.conf <
更新initramfs并重启:
sudo update-initramfs -u # Ubuntu/Debian
# 或 sudo dracut --force # CentOS/RHEL
sudo reboot
重启后确认nouveau没有加载:
lsmod | grep nouveau
没有任何输出就表示禁用成功。
接着安装编译依赖,以Ubuntu为例:
sudo apt update
sudo apt install -y build-essential gcc make linux-headers-$(uname -r)
CentOS系统使用sudo yum install -y gcc make kernel-devel-$(uname -r)。
缺少内核头文件是驱动安装失败最常见的原因之一。
安装NVIDIA驱动和CUDA
从NVIDIA官网下载对应型号的驱动.run文件,或者直接安装CUDA Toolkit,因为CUDA安装包自带驱动。
如果只需要驱动,可以只装驱动;
如果要做深度学习训练,建议直接装CUDA Toolkit。
以CUDA 12.x为例,下载后赋予执行权限并运行:
chmod +x cuda_12.x.x_linux.run
sudo ./cuda_12.x.x_linux.run
安装界面中,如果系统已经装了驱动,可以取消勾选Driver,只装CUDA Toolkit;
如果还没装驱动,保持默认勾选即可。
安装过程中会提示是否创建/usr/local/cuda软链接,选是。
安装完成后,将CUDA路径加入环境变量:
echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
source ~/.bashrc
验证驱动是否生效
驱动装完后,最关键的一步是确认nvidia-smi能正常输出。
执行:
nvidia-smi
如果能看到GPU型号、显存大小、驱动版本和CUDA版本表格,说明驱动安装成功。
同时检查CUDA编译器:
nvcc -V
输出应显示CUDA版本号。
如果nvidia-smi报“command not found”,先检查/usr/bin/nvidia-smi是否存在,再确认PATH是否包含/usr/local/cuda/bin。
常见报错和避坑提醒
报错“Unable to find the kernel source tree”:
说明缺少内核头文件,
回到上一步安装linux-headers-$(uname -r),
然后重新运行驱动安装程序。
安装后nvidia-smi提示“No devices were found”:先确认nouveau已禁用并重启,再检查GPU是否被BIOS或虚拟化平台正确直通。
云服务器需要确认GPU实例已绑定驱动。
驱动版本与CUDA版本不匹配:nvidia-smi右上角显示的CUDA版本是驱动支持的最高版本,不是当前安装的CUDA版本。
实际CUDA版本以nvcc -V为准。
不要随意升级内核:内核升级后可能需要重新编译驱动模块。
生产环境建议锁定内核版本,或升级后重新运行驱动安装程序。
装完后的检查清单
驱动安装完成后,建议按顺序确认:nvidia-smi正常输出、nvcc -V显示版本、lsmod | grep nvidia能看到nvidia模块加载、/dev/nvidia*设备文件存在。
如果后续要跑训练任务,再用一个小脚本测试CUDA是否可用,例如运行python -c "import torch; print(torch.cuda.is_available())"(需已安装PyTorch)。
如果以上检查都通过,AI服务器驱动安装就完成了。
遇到异常时,优先回看nouveau是否禁用、内核头文件是否匹配、驱动和CUDA版本是否对应,这三处能解决大部分安装问题。