CUDA快速入门指南

在标准系统上运行CUDA的最简入门指南。

1. 简介

本指南涵盖了安装CUDA并在每个支持的平台上验证CUDA应用程序能否运行所需的基本说明。

这些说明适用于在支持的平台上进行全新安装时使用。如果本文档未能解答您的问题,请参阅Windows安装指南Linux安装指南

CUDA安装包可以在CUDA下载页面找到。

2. Windows

在Windows上安装CUDA时,您可以选择网络安装程序或本地安装程序。网络安装程序允许您仅下载所需的文件。本地安装程序是一个独立的安装程序,初始下载量较大。更多详细信息,请参阅Windows安装指南

2.1. 网络安装程序

按照以下步骤安装CUDA并验证安装。

  1. 运行下载的安装程序包。

  2. 阅读并接受最终用户许可协议(EULA)。

  3. 选择下一步以下载并安装所有组件。

  4. 下载完成后,安装将自动开始。

  5. 安装完成后,点击“下一步”确认Nsight Visual Studio Edition的安装摘要。

  6. 点击关闭来结束安装程序。

  7. 导航到示例中的nbody目录,位于https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody

  8. 打开与您安装的Visual Studio版本对应的nbody Visual Studio解决方案文件,例如nbody_vs2019.sln

    _images/navigate_nbody.png
  9. 在Visual Studio中打开生成菜单,点击生成解决方案

    _images/nbody_build.png
  10. 导航到CUDA Samples构建目录并运行nbody示例。

    注意

    运行示例时需要导航到可执行文件所在位置,否则将无法定位依赖资源。

2.2. 本地安装程序

按照以下步骤安装CUDA并验证安装。

  1. 运行下载的安装程序包。

  2. 阅读并接受最终用户许可协议(EULA)。

  3. 选择下一步来安装所有组件。

  4. 安装完成后,点击下一步确认Nsight Visual Studio Edition的安装摘要。

  5. 点击关闭来结束安装程序。

  6. 导航到示例的nbody目录,位于https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody

  7. 打开适用于您已安装Visual Studio版本的nbody Visual Studio解决方案文件。

    _images/navigate_nbody.png
  8. 在Visual Studio中打开生成菜单,点击生成解决方案

    _images/nbody_build.png
  9. 进入CUDA Samples构建目录并运行nbody示例。

    注意

    运行示例时需要先导航到可执行文件所在位置,否则将无法定位依赖资源。

2.3. Pip Wheels - Windows

NVIDIA提供了通过pip安装CUDA的Python Wheels,主要用于在Python中使用CUDA。这些软件包旨在运行时使用,目前不包含开发工具(这些工具可以单独安装)。

请注意,采用此安装方式时,CUDA的安装环境是通过pip管理的,必须额外注意配置主机环境以便在pip环境之外使用CUDA。

前提条件

要安装Wheels,首先需要安装nvidia-pyindex包,这是为了配置您的pip安装环境以便从NVIDIA NGC PyPI仓库获取额外的Python模块。如果您的pip和setuptools Python模块不是最新版本,请使用以下命令升级这些Python模块。如果这些Python模块版本过旧,本节后续的命令可能会执行失败。

py -m pip install --upgrade setuptools pip wheel

您现在应该能够安装nvidia-pyindex模块了。

py -m pip install nvidia-pyindex

如果你的项目使用requirements.txt文件,那么你可以将以下行添加到你的requirements.txt文件中,作为安装nvidia-pyindex包的替代方案:

--extra-index-url https://pypi.ngc.nvidia.com

步骤

安装CUDA运行时包:

py -m pip install nvidia-cuda-runtime-cu12

可选地,使用以下命令安装下面列出的额外软件包:

py -m pip install nvidia-<library>

元包

以下元包将在Windows上为指定的CUDA版本安装对应组件的最新版本。"cu12"应理解为"cuda12"。

  • nvidia-cuda-runtime-cu12

  • nvidia-cuda-cupti-cu12

  • nvidia-cuda-nvcc-cu12

  • nvidia-nvml-dev-cu12

  • nvidia-cuda-nvrtc-cu12

  • nvidia-nvtx-cu12

  • nvidia-cuda-sanitizer-api-cu12

  • nvidia-cublas-cu12

  • nvidia-cufft-cu12

  • nvidia-curand-cu12

  • nvidia-cusolver-cu12

  • nvidia-cusparse-cu12

  • nvidia-npp-cu12

  • nvidia-nvjpeg-cu12

这些元包将安装以下软件包:

  • nvidia-nvml-dev-cu126

  • nvidia-cuda-nvcc-cu126

  • nvidia-cuda-runtime-cu126

  • nvidia-cuda-cupti-cu126

  • nvidia-cublas-cu126

  • nvidia-cuda-sanitizer-api-cu126

  • nvidia-nvtx-cu126

  • nvidia-cuda-nvrtc-cu126

  • nvidia-npp-cu126

  • nvidia-cusparse-cu126

  • nvidia-cusolver-cu126

  • nvidia-curand-cu126

  • nvidia-cufft-cu126

  • nvidia-nvjpeg-cu126

2.4. Conda

Conda软件包可在https://anaconda.org/nvidia获取。

安装

要使用Conda执行CUDA Toolkit所有组件的基础安装,请运行以下命令:

conda install cuda -c nvidia

卸载

要使用Conda卸载CUDA工具包,请运行以下命令:

conda remove cuda

3. Linux

在Linux系统上,可以根据目标平台选择通过RPM、Debian、Runfile或Conda包来安装CUDA。

3.1. Linux x86_64

适用于x86_64架构的开发。在某些情况下,x86_64系统可能作为针对其他架构的主机平台。更多详情请参阅Linux安装指南

3.1.1. 红帽/CentOS

在Redhat或CentOS系统上安装CUDA时,您可以选择Runfile安装程序或RPM安装程序。Runfile安装程序仅提供本地安装版本。RPM安装程序则同时提供本地安装和网络安装两种版本。网络安装程序允许您仅下载所需的文件。本地安装程序是独立安装包,初始下载量较大。对于RPM安装程序,本地版和网络版的安装说明是相同的。更多详细信息,请参阅Linux安装指南

3.1.1.1. RPM安装包

按照以下步骤安装CUDA并验证安装。

  1. 按照EPEL官网的说明安装EPEL以满足DKMS依赖项。

  2. 启用可选仓库:

    仅在RHEL 8 Linux系统上,执行以下步骤以启用可选软件仓库。

    • 在x86_64工作站上:

      subscription-manager repos --enable=rhel-8-for-x86_64-appstream-rpms
      subscription-manager repos --enable=rhel-8-for-x86_64-baseos-rpms
      subscription-manager repos --enable=codeready-builder-for-rhel-8-x86_64-rpms
      
  3. 安装仓库元数据,清理yum缓存,并安装CUDA:

    sudo rpm --install cuda-repo--..rpm
    sudo rpm --erase gpg-pubkey-7fa2af80*
    sudo yum clean expire-cache
    sudo yum install cuda
    
  4. 重启系统以加载NVIDIA驱动程序:

    sudo reboot
    
  5. 通过修改PATHLD_LIBRARY_PATH变量来设置开发环境:

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
    export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                             ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
    
  6. https://github.com/nvidia/cuda-samples安装可写的示例副本,然后按照https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody中的Linux说明构建并运行nbody示例。

    注意

    运行示例时需要导航到可执行文件所在目录,否则将无法定位依赖资源。

3.1.1.2. 运行文件安装程序

按照以下步骤安装CUDA并验证安装。

  1. 禁用Nouveau驱动程序:

    1. /etc/modprobe.d/blacklist-nouveau.conf路径下创建文件,内容如下:

      blacklist nouveau
      options nouveau modeset=0
      
    2. 重新生成内核initramfs:

      sudo dracut --force
      
  2. 通过临时在系统内核启动参数末尾添加数字“3”和单词“nomodeset”来重新启动进入运行级别3。

  3. 以静默模式运行安装程序,使用默认选项进行安装(表示接受最终用户许可协议):

    sudo sh cuda__linux.run --silent
    
  4. 创建一个xorg.conf文件以使用NVIDIA GPU进行显示:

    sudo nvidia-xconfig
    
  5. 重启系统以加载图形界面:

    sudo reboot
    
  6. 通过修改PATH和LD_LIBRARY_PATH变量来设置开发环境:

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
    export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                             ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
    
  7. https://github.com/nvidia/cuda-samples安装可写入的示例副本,然后按照https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody中的Linux说明构建并运行nbody示例。

    注意

    运行示例时请导航至可执行文件所在目录,否则将无法定位依赖资源。

3.1.2. Fedora

在Fedora系统上安装CUDA时,您可以选择Runfile安装程序或RPM安装程序。Runfile安装程序仅提供本地安装版本。RPM安装程序则同时提供本地安装和网络安装两种版本。网络安装方式允许您仅下载所需文件。本地安装程序是独立安装包,初始下载量较大。对于RPM安装程序而言,本地版和网络版的安装说明是相同的。更多详细信息,请参阅Linux安装指南

3.1.2.1. RPM安装包

按照以下步骤安装CUDA并验证安装。

  1. 安装RPMFusion免费仓库以满足Akmods依赖:

    su -c 'dnf install --nogpgcheck http://download1.rpmfusion.org/free/fedora/rpmfusion-free-release-$(rpm -E %fedora).noarch.rpm'
    
  2. 安装仓库元数据,清理dnf缓存,并安装CUDA:

    sudo rpm --install cuda-repo--..rpm
    sudo rpm --erase gpg-pubkey-7fa2af80*
    sudo dnf clean expire-cache
    sudo dnf install cuda
    
  3. 重启系统以加载NVIDIA驱动程序:

    sudo reboot
    
  4. 通过修改PATH和LD_LIBRARY_PATH变量来设置开发环境:

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
    export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                             ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
    
  5. https://github.com/nvidia/cuda-samples安装可写的示例副本,然后按照https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody中的Linux说明构建并运行nbody示例。

    注意

    运行示例时请导航至可执行文件所在目录,否则将无法定位依赖资源。

3.1.2.2. 运行文件安装程序

按照以下步骤安装CUDA并验证安装。

  1. 禁用Nouveau驱动程序:

    1. /usr/lib/modprobe.d/blacklist-nouveau.conf路径下创建文件,内容如下:

      blacklist nouveau
      options nouveau modeset=0
      
    2. 重新生成内核initramfs:

      sudo dracut --force
      
    3. 运行以下命令:

      sudo grub2-mkconfig -o /boot/grub2/grub.cfg
      
    4. 重启系统:

      sudo reboot
      
  2. 通过临时在系统内核启动参数末尾添加数字“3”和单词“nomodeset”来重启进入运行级别3。

  3. 以静默模式运行安装程序,使用默认选项进行安装(表示接受最终用户许可协议):

    sudo sh cuda__linux.run --silent
    
  4. 创建一个xorg.conf文件以使用NVIDIA GPU进行显示:

    sudo nvidia-xconfig
    
  5. 重启系统以加载图形界面。

  6. 通过修改PATH和LD_LIBRARY_PATH环境变量来设置开发环境:

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
    export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                             ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
    
  7. https://github.com/nvidia/cuda-samples安装可写的示例副本,然后按照https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody中的Linux说明构建并运行nbody示例。

    注意

    运行示例时请导航至可执行文件所在目录,否则将无法定位依赖资源。

3.1.3. SUSE Linux企业服务器

在SUSE Linux Enterprise Server上安装CUDA时,您可以选择Runfile安装程序或RPM安装程序。Runfile安装程序仅作为本地安装程序提供。RPM安装程序既可作为本地安装程序,也可作为网络安装程序使用。网络安装程序允许您仅下载所需的文件。本地安装程序是一个独立的安装程序,初始下载量较大。对于RPM安装程序,本地和网络版本的安装说明是相同的。更多详细信息,请参阅Linux安装指南

3.1.3.1. RPM安装包

按照以下步骤安装CUDA并验证安装。

  1. 安装仓库元数据,刷新Zypper缓存,更新GPG密钥,并安装CUDA:

    sudo rpm --install cuda-repo--..rpm
    sudo SUSEConnect --product PackageHub/15/x86_64
    sudo zypper refresh
    sudo rpm --erase gpg-pubkey-7fa2af80*
    sudo dnf config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/$distro/$arch/cuda-$distro.repo
    sudo zypper install cuda
    
  2. 将用户添加到视频组:

    sudo usermod -a -G video 
    
  3. 重启系统以加载NVIDIA驱动程序:

    sudo reboot
    
  4. 通过修改PATH和LD_LIBRARY_PATH环境变量来设置开发环境:

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
    export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                             ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
    
  5. https://github.com/nvidia/cuda-samples安装可写的示例副本,然后按照https://github.com/NVIDIA/cuda-samples/tree/master/Samples/0_Introduction/vectorAdd中的Linux说明构建并运行vectorAdd示例。

    注意

    运行示例时请导航至可执行文件所在目录,否则将无法定位依赖资源。

3.1.3.2. 运行文件安装程序

按照以下步骤安装CUDA并验证安装。

  1. 通过临时在系统内核启动参数末尾添加数字“3”和单词“nomodeset”来重新启动进入运行级别3。

  2. 以静默模式运行安装程序,使用默认选项进行安装(表示接受最终用户许可协议):

    sudo sh cuda_<version>_linux.run --silent
    
  3. 创建一个xorg.conf文件以使用NVIDIA GPU进行显示:

    sudo nvidia-xconfig
    
  4. 重启系统以加载图形界面:

    sudo reboot
    
  5. 通过修改PATH和LD_LIBRARY_PATH变量来设置开发环境:

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
    export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                             ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
    
  6. https://github.com/nvidia/cuda-samples安装可写的示例副本,然后按照https://github.com/NVIDIA/cuda-samples/tree/master/Samples/0_Introduction/vectorAdd中的Linux说明构建并运行vectorAdd示例。

    注意

    运行示例时请导航至可执行文件所在目录,否则将无法定位依赖资源。

3.1.4. OpenSUSE

在OpenSUSE系统上安装CUDA时,您可以选择Runfile安装程序或RPM安装程序。Runfile安装程序仅提供本地安装版本。RPM安装程序则同时提供本地安装和网络安装两种版本。网络安装方式允许您仅下载所需的文件,而本地安装程序是一个独立的大型初始下载包。对于RPM安装程序而言,本地版和网络版的安装说明是相同的。更多详细信息,请参阅Linux安装指南

3.1.4.1. RPM安装包

按照以下步骤安装CUDA并验证安装。

  1. 安装仓库元数据,刷新Zypper缓存,并安装CUDA:

    sudo rpm --install cuda-repo--..rpm
    sudo rpm --erase gpg-pubkey-7fa2af80*
    sudo zypper refresh
    sudo zypper install cuda
    
  2. 将用户添加到视频组:

    sudo usermod -a -G video 
    
  3. 重启系统以加载NVIDIA驱动程序:

    sudo reboot
    
  4. 通过修改PATH和LD_LIBRARY_PATH变量来设置开发环境:

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
    export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                             ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
    
  5. https://github.com/nvidia/cuda-samples安装可写入的示例副本,然后按照https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody中的Linux说明构建并运行nbody示例。

    注意

    运行示例时请导航至可执行文件所在目录,否则将无法定位依赖资源。

3.1.4.2. 运行文件安装程序

按照以下步骤安装CUDA并验证安装。

  1. 禁用Nouveau驱动程序:

    1. /etc/modprobe.d/blacklist-nouveau.conf路径下创建文件,内容如下:

      blacklist nouveau
      options nouveau modeset=0
      
    2. 重新生成内核initrd:

      sudo /sbin/mkinitrd
      
  2. 通过临时在系统内核启动参数末尾添加数字“3”和单词“nomodeset”来重启进入运行级别3。

  3. 以静默模式运行安装程序,使用默认选项进行安装(表示接受最终用户许可协议):

    sudo sh cuda_<version>_linux.run --silent
    
  4. 创建一个xorg.conf文件以使用NVIDIA GPU进行显示:

    sudo nvidia-xconfig
    
  5. 重启系统以加载图形界面:

    sudo reboot
    
  6. 通过修改PATH和LD_LIBRARY_PATH变量来设置开发环境:

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
    export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                        ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
    
  7. https://github.com/nvidia/cuda-samples安装可写入的示例副本,然后按照https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody中的Linux说明构建并运行nbody示例。

    注意

    运行示例时请导航至可执行文件所在目录,否则将无法定位依赖资源。

3.1.5. Amazon Linux 2023

3.1.5.1. 准备Amazon Linux 2023

  1. 执行预安装操作。

  2. 可以通过以下命令安装当前运行内核的内核头文件和开发包:

    sudo dnf install kernel-devel-$(uname -r) kernel-headers-$(uname -r) kernel-modules-extra-$(uname -r)
    
  3. 选择安装方式:本地仓库网络仓库

3.1.5.2. Amazon Linux本地仓库安装

  1. 在文件系统上安装本地仓库:

    sudo rpm --install cuda-repo-amzn2023-X-Y-local-*.x86_64.rpm
    

3.1.5.3. Amazon Linux 网络仓库安装指南

  1. 启用网络仓库并清理DN缓存:

    sudo dnf config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/amzn2023/x86_64/cuda-amzn2023.repo
    sudo dnf clean expire-cache
    

3.1.5.4. Amazon Linux通用安装指南

这些说明适用于Amazon Linux的本地和网络安装。

  1. 安装CUDA SDK:

    sudo dnf module install nvidia-driver:latest-dkms
    sudo dnf install cuda-toolkit
    
  2. 安装GPUDirect文件系统:

    sudo dnf install nvidia-gds
    
  3. 如有需要,添加libcuda.so符号链接:

    libcuda.so库安装在/usr/lib{,64}/nvidia目录中。对于使用libcuda.so的现有项目,在/usr/lib{,64}目录中添加一个来自libcuda.so的符号链接可能会很有用。

  4. 重启系统:

    sudo reboot
    
  5. 执行安装后操作。

3.1.6. Pip Wheels - Linux版

NVIDIA提供了通过pip安装CUDA的Python Wheels,主要用于在Python中使用CUDA。这些软件包旨在运行时使用,目前不包含开发工具(这些工具可以单独安装)。

请注意,采用此安装方式时,CUDA的安装环境是通过pip管理的,必须额外注意配置主机环境以便在pip环境之外使用CUDA。

前提条件

要安装Wheels,首先需要安装nvidia-pyindex包,这是为了配置您的pip安装环境以便从NVIDIA NGC PyPI仓库获取额外的Python模块。如果您的pip和setuptools Python模块不是最新版本,请使用以下命令升级这些Python模块。如果这些Python模块版本过旧,本节后续的命令可能会执行失败。

python3 -m pip install --upgrade setuptools pip wheel

您现在应该能够安装nvidia-pyindex模块了。

python3 -m pip install nvidia-pyindex

如果你的项目使用requirements.txt文件,那么你可以将以下行添加到你的requirements.txt文件中,作为安装nvidia-pyindex包的替代方案:

--extra-index-url https://pypi.ngc.nvidia.com

步骤

安装CUDA运行时包:

python3 -m pip install nvidia-cuda-runtime-cu12

可选地,使用以下命令安装下面列出的额外软件包:

python3 -m pip install nvidia-<library>

元包

以下元包将在Linux上为指定的CUDA版本安装对应组件的最新版本。"cu12"应理解为"cuda12"。

  • nvidia-cuda-runtime-cu12

  • nvidia-cuda-cupti-cu12

  • nvidia-cuda-nvcc-cu12

  • nvidia-nvml-dev-cu12

  • nvidia-cuda-nvrtc-cu12

  • nvidia-nvtx-cu12

  • nvidia-cuda-sanitizer-api-cu12

  • nvidia-cublas-cu12

  • nvidia-cufft-cu12

  • nvidia-curand-cu12

  • nvidia-cusolver-cu12

  • nvidia-cusparse-cu12

  • nvidia-npp-cu12

  • nvidia-nvjpeg-cu12

  • nvidia-opencl-cu12

  • nvidia-nvjitlink-cu12

这些元包将安装以下软件包:

  • nvidia-nvml-dev-cu126

  • nvidia-cuda-nvcc-cu126

  • nvidia-cuda-runtime-cu126

  • nvidia-cuda-cupti-cu126

  • nvidia-cublas-cu126

  • nvidia-cuda-sanitizer-api-cu126

  • nvidia-nvtx-cu126

  • nvidia-cuda-nvrtc-cu126

  • nvidia-npp-cu126

  • nvidia-cusparse-cu126

  • nvidia-cusolver-cu126

  • nvidia-curand-cu126

  • nvidia-cufft-cu126

  • nvidia-nvjpeg-cu126

  • nvidia-opencl-cu126

  • nvidia-nvjitlink-cu126

3.1.7. Conda

Conda软件包可在https://anaconda.org/nvidia获取。

安装

要使用Conda执行CUDA Toolkit所有组件的基础安装,请运行以下命令:

conda install cuda -c nvidia

卸载

要使用Conda卸载CUDA工具包,请运行以下命令:

conda remove cuda

3.1.8. WSL

如果您是在WSL环境中安装,必须使用这些说明。在这种情况下,请勿使用Ubuntu的安装说明。

  1. 安装仓库元数据

sudo dpkg -i cuda-repo-<distro>_<version>_<architecture>.deb
  1. 更新CUDA公共GPG密钥

    sudo apt-key del 7fa2af80
    

    使用本地仓库安装时:

    sudo cp /var/cuda-repo-ubuntu2004-12-0-local/cuda-*-keyring.gpg /usr/share/keyrings/
    

    使用网络仓库安装时:

    wget https://developer.download.nvidia.com/compute/cuda/repos///cuda-keyring_1.1-1_all.deb
    sudo dpkg -i cuda-keyring_1.1-1_all.deb
    

    创建优先级文件以优先使用CUDA仓库:

    wget https://developer.download.nvidia.com/compute/cuda/repos///cuda-.pin
    sudo mv cuda-.pin /etc/apt/preferences.d/cuda-repository-pin-600
    
  2. 更新Apt软件源缓存并安装CUDA

    sudo apt-get update
    sudo apt-get install cuda
    

3.1.9. Ubuntu

在Ubuntu系统上安装CUDA时,您可以选择Runfile安装程序或Debian安装程序。Runfile安装程序仅提供本地安装版本。Debian安装程序则同时提供本地安装和网络安装两种版本。网络安装方式允许您仅下载所需文件。本地安装程序是独立安装包,初始下载量较大。对于Debian安装程序,本地版和网络版的安装说明是相同的。更多详细信息,请参阅Linux安装指南

3.1.9.1. Debian安装程序

按照以下步骤安装CUDA并验证安装。

  1. 安装存储库元数据,更新GPG密钥,更新apt-get缓存,并安装CUDA:

    sudo dpkg --install cuda-repo--..deb
    sudo apt-key del 7fa2af80
    wget https://developer.download.nvidia.com/compute/cuda/repos///cuda-keyring_1.1-1_all.deb
    sudo dpkg -i cuda-keyring_1.1-1_all.deb
    sudo add-apt-repository contrib
    sudo apt-get update
    sudo apt-get -y install cuda
    
  2. 重启系统以加载NVIDIA驱动程序:

    sudo reboot
    
  3. 通过修改PATH和LD_LIBRARY_PATH环境变量来设置开发环境:

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
    export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                             ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
    
  4. https://github.com/nvidia/cuda-samples安装可写的示例副本,然后按照https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody中的Linux说明构建并运行nbody示例。

    注意

    运行示例时请导航至可执行文件所在目录,否则将无法定位依赖资源。

3.1.9.2. 运行文件安装程序

按照以下步骤安装CUDA并验证安装。

  1. 禁用Nouveau驱动程序:

    1. /etc/modprobe.d/blacklist-nouveau.conf路径下创建文件,内容如下:

      blacklist nouveau
      options nouveau modeset=0
      
    2. 重新生成内核initramfs:

      sudo update-initramfs -u
      
  2. 通过临时在系统内核启动参数末尾添加数字“3”和单词“nomodeset”来重启进入运行级别3。

  3. 以静默模式运行安装程序,使用默认选项进行安装(表示接受最终用户许可协议):

    sudo sh cuda_<version>_linux.run --silent
    
  4. 创建一个xorg.conf文件以使用NVIDIA GPU进行显示:

    sudo nvidia-xconfig
    
  5. 重启系统以加载图形界面:

    sudo reboot
    
  6. 通过修改PATH和LD_LIBRARY_PATH环境变量来设置开发环境:

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
    export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                             ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
    
  7. https://github.com/nvidia/cuda-samples安装可写的示例副本,然后按照https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody中的Linux说明构建并运行nbody示例。

    注意

    运行示例时请导航至可执行文件所在目录,否则将无法定位依赖资源。

3.1.10. Debian

在Debian 10上安装CUDA时,您可以选择Runfile安装程序或Debian安装程序。Runfile安装程序仅作为本地安装程序提供。Debian安装程序则同时提供本地安装程序和网络安装程序两种形式。网络安装程序允许您仅下载所需的文件。本地安装程序是一个独立的安装程序,初始下载量较大。更多详细信息,请参阅Linux安装指南

3.1.10.1. Debian安装程序

按照以下步骤安装CUDA并验证安装。

  1. 安装仓库元数据,移除旧的GPG密钥,安装GPG密钥,更新apt-get缓存,并安装CUDA:

    sudo dpkg -i cuda-repo-__.deb
    sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/debian10/x86_64/7fa2af80.pub
    sudo apt-key del 7fa2af80
    wget https://developer.download.nvidia.com/compute/cuda/repos///cuda-keyring_1.1-1_all.deb
    sudo dpkg -i cuda-keyring_1.1-1_all.deb
    sudo add-apt-repository contrib
    sudo apt-get update
    sudo apt-get -y install cuda
    
  2. 重启系统以加载NVIDIA驱动程序:

    sudo reboot
    
  3. 通过修改PATH和LD_LIBRARY_PATH环境变量来设置开发环境:

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
    export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                             ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
    
  4. https://github.com/nvidia/cuda-samples安装可写的示例副本,然后按照https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody中的Linux说明构建并运行nbody示例。

    注意

    运行示例时请导航至可执行文件所在目录,否则将无法定位依赖资源。

3.1.10.2. 运行文件安装程序

按照以下步骤安装CUDA并验证安装。

  1. 禁用Nouveau驱动程序:

    1. /etc/modprobe.d/blacklist-nouveau.conf路径下创建文件,内容如下:

      blacklist nouveau
      options nouveau modeset=0
      
    2. 重新生成内核initramfs:

      sudo update-initramfs -u
      
  2. 通过临时在系统内核启动参数末尾添加数字“3”和单词“nomodeset”来重启进入运行级别3。

  3. 以静默模式运行安装程序,使用默认选项进行安装(表示接受最终用户许可协议):

    sudo sh cuda_<version>_linux.run --silent
    
  4. 创建一个xorg.conf文件以使用NVIDIA GPU进行显示:

    sudo nvidia-xconfig
    
  5. 重启系统以加载图形界面:

    sudo reboot
    
  6. 通过修改PATH和LD_LIBRARY_PATH变量来设置开发环境:

    export PATH=/usr/local/cuda-12.8/bin${PATH:+:${PATH}}
    export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64\
                             ${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
    
  7. https://github.com/nvidia/cuda-samples安装可写的示例副本,然后按照https://github.com/NVIDIA/cuda-samples/tree/master/Samples/5_Domain_Specific/nbody中的Linux说明构建并运行nbody示例。

    注意

    运行示例时请导航至可执行文件所在目录,否则将无法定位依赖资源。

4. 注意事项

4.1. 注意事项

本文档仅供信息参考之用,不应视为对产品功能、状态或质量的保证。NVIDIA公司(“NVIDIA”)对本文件所含信息的准确性或完整性不作任何明示或暗示的陈述或保证,并对其中可能存在的错误不承担任何责任。NVIDIA对于因使用此类信息而产生的后果、或因使用该信息导致的第三方专利或其他权利侵权概不负责。本文件不构成对开发、发布或交付任何材料(定义见下文)、代码或功能的承诺。

NVIDIA保留随时对本文件进行更正、修改、增强、改进以及任何其他变更的权利,恕不另行通知。

客户在下单前应获取最新的相关信息,并确认这些信息是最新且完整的。

除非NVIDIA与客户授权代表签署的单独销售协议中另有约定,否则NVIDIA产品的销售均以订单确认时提供的NVIDIA标准销售条款和条件为准(以下简称"销售条款")。NVIDIA特此明确反对将任何客户通用条款适用于本文件所述NVIDIA产品的采购。本文件不直接或间接构成任何合同义务。

NVIDIA产品并非设计、授权或保证适用于医疗、军事、航空、航天或生命支持设备,也不适用于那些可以合理预期NVIDIA产品故障或失灵会导致人身伤害、死亡、财产或环境损害的应用场景。NVIDIA对于在此类设备或应用中使用和/或包含NVIDIA产品不承担任何责任,因此客户需自行承担相关风险。

NVIDIA不声明或保证基于本文档的产品适用于任何特定用途。NVIDIA未必会对每个产品的所有参数进行测试。客户应全权负责评估和确定本文档所含信息的适用性,确保产品适合并满足客户计划的应用需求,并执行必要的应用测试以避免应用或产品出现故障。客户产品设计中的缺陷可能会影响NVIDIA产品的质量和可靠性,并可能导致超出本文档范围的其他或不同的条件和/或要求。对于任何因以下原因导致的故障、损坏、成本或问题,NVIDIA不承担任何责任:(i) 以违反本文档的任何方式使用NVIDIA产品或(ii) 客户产品设计。

本文档不授予任何NVIDIA专利权、版权或其他NVIDIA知识产权的明示或暗示许可。NVIDIA发布的关于第三方产品或服务的信息,不构成NVIDIA对这些产品或服务的使用许可或担保认可。使用此类信息可能需要获得第三方基于其专利或其他知识产权的许可,或需要获得NVIDIA基于其专利或其他知识产权的许可。

本文件中的信息仅可在获得NVIDIA事先书面批准、未经改动完整复制且完全符合所有适用的出口法律法规,并附带所有相关条件、限制和声明的情况下进行复制。

本文件及所有NVIDIA设计规格、参考板、文件、图纸、诊断工具、清单和其他文档(统称及单独称为"材料")均以"现状"提供。NVIDIA不对材料作出任何明示或默示的保证,包括但不限于对不侵权、适销性和特定用途适用性的默示保证免责。在法律允许的最大范围内,NVIDIA不就因使用本文件导致的任何损害承担责任,包括但不限于任何直接、间接、特殊、附带、惩罚性或后果性损害,无论损害成因如何,也无论责任理论为何,即使NVIDIA已被告知发生此类损害的可能性。不论客户因任何原因可能遭受的任何损害,NVIDIA对客户就本文所述产品的全部及累计责任应受产品销售条款的限制。

4.2. OpenCL

OpenCL是苹果公司的商标,经Khronos Group Inc.授权使用。

4.3. 商标

NVIDIA和NVIDIA标识是美国及其他国家NVIDIA公司的商标或注册商标。其他公司及产品名称可能是其各自关联公司的商标。