网站首页 > 主流语言 > python 正文
原理
.to(device) 可以指定CPU 或者GPU
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu") # 单GPU或者CPU model.to(device) #如果是多GPU if torch.cuda.device_count() > 1: model = nn.DataParallel(model,device_ids=[0,1,2]) model.to(device)
.cuda() 只能指定GPU
#指定某个GPU os.environ['CUDA_VISIBLE_DEVICE']='1' model.cuda() #如果是多GPU os.environment['CUDA_VISIBLE_DEVICES'] = '0,1,2,3' device_ids = [0,1,2,3] net = torch.nn.Dataparallel(net, device_ids =device_ids) net = torch.nn.Dataparallel(net) # 默认使用所有的device_ids net = net.cuda()
class DataParallel(Module): def __init__(self, module, device_ids=None, output_device=None, dim=0): super(DataParallel, self).__init__() if not torch.cuda.is_available(): self.module = module self.device_ids = [] return if device_ids is None: device_ids = list(range(torch.cuda.device_count())) if output_device is None: output_device = device_ids[0]
补充:Pytorch使用To方法编写代码在不同设备(CUDA/CPU)上兼容(device-agnostic)
以前版本的PyTorch编写device-agnostic代码非常困难(即,在不修改代码的情况下在CUDA可以使用或者只能使用CPU的设备上运行)。
device-agnostic的概念
即设备无关,可以理解为无论什么设备都可以运行您编写的代码。(PS:个人理解,我没有在网上找到专业解释)
PyTorch 0.4.0使代码兼容
PyTorch 0.4.0通过两种方法使代码兼容变得非常容易:
张量的device属性为所有张量提供了torch.device设备。(注意:get_device仅适用于CUDA张量)
to方法Tensors和Modules可用于容易地将对象移动到不同的设备(代替以前的cpu()或cuda()方法)
我们推荐以下模式:
# 开始脚本,创建一个张量 device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu") ... # 但是无论你获得一个新的Tensor或者Module # 如果他们已经在目标设备上则不会执行复制操作 input = data.to(device) model = MyModule(...).to(device)
以上为个人经验,希望能给大家一个参考,也希望大家多多支持开源网。
- 上一篇: 教你用python控制安卓手机
- 下一篇: python 装饰器的使用与要点
猜你喜欢
- 2021-07-16 如何解决.cuda()加载用时很长的问题
- 2021-07-16 pytorch中的model=model.to(device)使用说明
你 发表评论:
欢迎- 2957℃JS彻底弄懂GMT和UTC时区
- 2830℃JS使用canvas技术模仿echarts柱状图
- 2650℃JS装饰者模式和TypeScript装饰器
- 2575℃JS ES6展开运算符的几个妙用
- 2544℃vue的ssr服务端渲染示例详解
- 2366℃jquery插件实现图片对比
- 2323℃微信小程序视频弹幕位置随机
- 1834℃docker安装redis设置密码并连接的操作
- 0℃未命名
- 开源分类
- 最近发表
-
- 云服务器推荐,云服务器去哪买靠谱?
- (1)python+selenium第一个自动化脚本:实现打开百度首页并搜索selenium
- Discuz!教程之启用HTTPS后解决各处遗留http://网址问题
- 网站如何识别 你是 selenium爬虫?那我们怎么解决(反反爬)
- 旋转拖动验证码解决方案
- python关键词排名_python实现百度关键词排名查询
- Unity3D研究院之通过ipa或apk获取游戏所使用的unity和Xcode版本
- Unity3D研究院编辑器之脚本生成Preset Libraries(十四)
- 手把手教你Charles抓包工具使用
- python开发的程序内存越来越大_遇到个python进程占用内存太多的问题 | 数据,更懂人心...
- 开源网标签
本文暂时没有评论,来添加一个吧(●'◡'●)