文章目录

  • 一、简介
  • 二、查看GPU状态和信息
  • 三、使用
    • 3.1临时设置（临时设置方法一定要在第一次使用 cuda 之前进行设置）
    • 3.2python 运行时设置
    • 3.3永久设置
  • 四、参考资料

一、简介

服务器中有多个GPU，选择特定的GPU运行程序可在程序运行命令前使用：CUDA_VISIBLE_DEVICES=0命令。0为服务器中的GPU编号，可以为0, 1, 2, 3等，表明对程序可见的GPU编号。

二、查看GPU状态和信息

nvidia-smi


定时刷新状态，-n（秒），每秒刷新一次

watch -n 1 nvidia-smi

三、使用

需要注意前提是你有GPU

3.1临时设置（临时设置方法一定要在第一次使用 cuda 之前进行设置）

Linux： export CUDA_VISIBLE_DEVICES=1windows:set CUDA_VISIBLE_DEVICES=1

3.2python 运行时设置

import osos.environ["CUDA_VISIBLE_DEVICES"] = "1"

或

CUDA_VISIBLE_DEVICES=1 python **.py

注意：临时设置方法一定要在第一次使用 cuda 之前进行设置

3.3永久设置

  • linux:
    在~/.bashrc 的最后加上export CUDA_VISIBLE_DEVICES=1，然后source ~/.bashrc
  • windows:
    打开我的电脑环境变量设置的地方，直接添加就行了。

四、参考资料

pytorch指定多块GPU运行代码
设置 CUDA_VISIBLE_DEVICES