主页 / coding / 问题 / 79583142
Accepted
DJDuque
Asked: 2025-04-20 15:44:45 +0800 CST

在 PyTorch 中广播 [B, 1] 张量以将移位应用于特定通道

  • 772

我在 PyTorch 中有一个p形状的张量(B, 3, N)：

# 2 batches, 3 channels (x, y, z), 5 points
p = torch.rand(2, 3, 5, requires_grad=True)
"""
p: tensor([[[0.8365, 0.0505, 0.4208, 0.7465, 0.6843],
         [0.9922, 0.2684, 0.6898, 0.3983, 0.4227],
         [0.3188, 0.2471, 0.9552, 0.5181, 0.6877]],

        [[0.1079, 0.7694, 0.2194, 0.7801, 0.8043],
         [0.8554, 0.3505, 0.4622, 0.0339, 0.7909],
         [0.5806, 0.7593, 0.0193, 0.5191, 0.1589]]], requires_grad=True)
"""

然后是另一个z_shift形状[B, 1]：

z_shift = torch.tensor([[1.0], [10.0]], requires_grad=True)
"""
z_shift: tensor([[1.],
        [10.]], requires_grad=True)
"""

我想对每个批次中的所有点应用适当的 z 移位，保持 x 和 y 不变：

"""
p: tensor([[[0.8365, 0.0505, 0.4208, 0.7465, 0.6843],
         [0.9922, 0.2684, 0.6898, 0.3983, 0.4227],
         [1.3188, 1.2471, 1.9552, 1.5181, 1.6877]],

        [[0.1079, 0.7694, 0.2194, 0.7801, 0.8043],
         [0.8554, 0.3505, 0.4622, 0.0339, 0.7909],
         [10.5806, 10.7593, 10.0193, 10.5191, 10.1589]]])
"""

我设法这样做：

p[:, 2, :] += z_shift

对于的情况requires_grad=False，但这在forward我的nn.Module（我认为相当于requires_grad=True）内部失败了：

RuntimeError: a view of a leaf Variable that requires grad is being used in an in-place operation.
python

1 个回答

  1. Best Answer

    在 PyTorch 中，用户直接创建的张量被称为叶张量，它们的视图共享相同的底层存储。对视图执行就地赋值可能会修改计算图中原始张量中间的存储，从而导致未定义的行为。因此，应避免直接为视图赋值。

    为了安全地实现这一点，可以用非原地方法替换原地操作。例如：

    p_shifted = torch.stack([
    p[:, 0, :],
    p[:, 1, :],
    p[:, 2, :] + z_shift,
], dim=1)

    这通过构建新的张量torch.stack而不是就地修改原始存储来确保计算图的完整性，同时实现预期的功能。

    • 2

相关问题