即使使用显式cuda()调用,pytorch实例张量也未移动到gpu

让我们假设如下:

1. X 已正确移动到GPU

2. Model 类是一个简单的属性。

   i、 e.类似于以下内容:

class Model(nn.Module):
   def __init__(self):
       super().__init__()
       self.matrix = torch.randn(784, 10)
       
   def forward(self, x):
       return torch.matmul(x, self.matrix)

nn.Module.cuda() 方法只移动所有 Parameters Buffers

你需要做出决定 Model.matrix Parameter 将其包装在参数类中。

self.matrix = nn.Parameter(torch.randn(784, 10))

现在,您尝试手动调用 .cuda() 模型矩阵 在覆盖范围内。

nn.Module.cuda() 方法和步骤 torch.Tensor.cuda() 方法

nn.Module.cuda() 和 缓冲区 Module torch.Tensor.cuda() 复制

原始张量不受影响。

1. 把你的头发包起来 matrix 属性为 参数
2. 通过以下方式将GPU副本分配回矩阵:

self.matrix = self.matrix.cuda()

在你的超控中。

我建议第一个。

当nn.Module.cuda()将模块的所有参数和缓冲区移动到GPU并返回自身时,torch.Tensor.cuda() 在GPU上。

# if m is a Module, you do:
m.cuda()

# if t is a Tensor, you do:
t = t.cuda()