0. 安装cuda

适用于 Ubuntu Server 22.04 x86 服务器，其它系统可以访问官方网站。

下载cuda 12.8

wget https://developer.download.nvidia.com/compute/cuda/12.8.1/local_installers/cuda_12.8.1_570.124.06_linux.run

安装

sudo sh cuda_12.8.1_570.124.06_linux.run

如果已经安装过显卡驱动了，那么无需再安装显卡驱动。

安装完成后会有下面的提示。

然后需要配置环境变量。

vim ~/.bashrc

在最下面添加下面内容。

export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}

最后执行下面命令。

source ~/.bashrc

现在就安装上了cuda，可以使用nvcc -V命令验证一下，如果有输出版本信息，说明可以使用cuda。

1. 安装cudnn

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt-get update
sudo apt-get -y install cudnn

验证是否安装正确。

cd /usr/local/cuda/extras/demo_suite
./deviceQuery
./bandwidthTest

如果最后都输出下面内容，说明正确安装cudnn。

Result = PASS

Q.E.D.