一般情况下也不会有这种需求, 谁会一台电脑插几张卡的呢? 好巧不巧, 我有....
看到某些博客说在docker下是可以通过--gpu 0
的方式切换GPU的, 于是尝试了下, 果然, launch.py并不支持这个选项, 也根本没有切换GPU的选项
解决方案
注意: 这是N卡的方案, A卡不知道, 因为没A卡!
使用torch支持的CUDA_VISIBLE_DEVICES
参数
编辑launch.py, 在顶部加入如下代码import os os.environ['CUDA_VISIBLE_DEVICES'] = '1'
这样就可以指定显卡ID为1的显卡进行推理了