![PyTorch计算机视觉实战:目标检测、图像处理与深度学习](https://wfqqreader-1252317822.image.myqcloud.com/cover/947/50417947/b_50417947.jpg)
2.2.2 张量运算
与NumPy类似,你可以在张量对象上执行各种基本运算。与神经网络运算类似的是输入数据与权重之间的矩阵乘法,添加偏置项,并在需要的时候重塑输入数据或权重值。下面给出这些运算和其他运算的实现代码。
下列代码可以从本书的GitHub存储库(https://tinyurl.com/mcvp-packt)Chapter02文件夹中的Operations_on_tensors.ipynb获得。
❍ 可以使用下列代码将x中所有元素乘以10:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/51_07.jpg?sign=1739048629-d2hY5KQvXUVhfJHyi4uTksumlBhh3plB-0-0ea0e79e2bc5fe69d2a0677189babd8a)
❍ 可以使用下列代码将10加到x中的元素,并将得到的张量存储到y中:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/51_08.jpg?sign=1739048629-IECgWldk2ha2Gt10nYSEWS2NFNpMZ0mN-0-0e7fceb98acb80a9f8973ae8cc4e050d)
❍ 可以使用下列代码重塑一个张量:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/52_01.jpg?sign=1739048629-m6a19CDQOfeZR7NddoImoe4ciCWkWl6C-0-991db2c08cf948f35c7b8949bfffff35)
❍ 重塑张量的另一种方法是使用squeeze方法,提供我们想要移除的指标轴。注意,这只适用于要删除的轴在该维度中只有一个项的场合:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/52_02.jpg?sign=1739048629-oh5VyCAuZ13g6bQr859JG3muB8MHdO2g-0-dbadd73b2d851669a6489dd05ca95131)
❍ 与squeeze相反的是unsqueeze,这意味着给矩阵增加一个维度,可以使用下列代码实现:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/52_03.jpg?sign=1739048629-yPNmvtRHyGMTmYqTDZFIobwjMWSeGNWg-0-f64c37c2909e269e994fdbc29637a6d3)
使用None进行索引是一种很别致的unsqueeze方式,本书经常使用这种方式创建虚拟的通道/批维度。
❍ 可以使用下列代码实现两个不同张量的矩阵乘法:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/52_05.jpg?sign=1739048629-0BJ3mItFPQZdzZ7CwMgHsnRqD0vm5GPv-0-5bf9a580689abaa6d6264a9c29f6cd28)
❍ 或者,也可以使用@运算符实现矩阵乘法:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/53_01.jpg?sign=1739048629-I0pK7vbgKPnIytkOCjlmCK2o5sQacDL9-0-4462b4ef1c8cd144cc0b1cfc7840df5b)
❍ 类似于NumPy中的concatenate,可以使用cat方法实现张量的连接:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/53_02.jpg?sign=1739048629-pOOLMhE0HeDwwcOfRsXWrsThAhigJNvE-0-847bdfbb336b71dbd004b0105faabcb1)
❍ 可以使用下列代码提取张量中的最大值:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/53_03.jpg?sign=1739048629-KQUAAb6M27hfKdfR4fbmNgScHw6GUuyo-0-812fd37543675efc4ede930824078e4d)
❍ 可以从存在最大值的行索引中提取最大值:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/53_04.jpg?sign=1739048629-mHUkv0pIvH13m1rjZDz4uX48Oex14W6Z-0-c20470a7035681174750c264a605dd77)
注意,在前面的输出中,获取的是第0号维度上的最大值,即张量在行上的最大值。因此,所有行上的最大值都是第4个索引中出现的值,所以indices的输出也都是4。此外,.max返回最大值和最大值的位置(argmax)。
类似地,跨列取最大值时的输出如下所示:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/53_05.jpg?sign=1739048629-as4dR5RlQgV7ZPf69QhifjgkMXJNnmlc-0-631bf6102db4ebdd6e5199fd5a750ed6)
min运算与max运算完全相同,但在适合的情况下返回最小值和最小值的位置(arg-minimum)。
❍ 置换一个张量对象的维数:
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/53_06.jpg?sign=1739048629-VxabZPTx5HJ7zU77esd0YE1JVSiS12zK-0-e0eeb64df1497f3ff0b9981cdb2c553c)
![](https://epubservercos.yuewen.com/37D997/29686491107405206/epubprivate/OEBPS/Images/54_01.jpg?sign=1739048629-Uz1Mtxvim2NFRKpXfaRC2iM05FY3txbp-0-c38b06d89976fea1da2eca7bcf7f0922)
注意当对原始张量进行排列时,张量的形状就会发生改变。
永远不要通过重塑(即使用tensor.view)一个张量来交换维数。虽然Torch不会抛出一条错误信息,但这是错误的,并将在训练期间产生不可预见的结果。如果需要交换维数,请始终使用permute。
因为本书很难涵盖所有可用的运算,所以重要的是要知道,你可以使用几乎与NumPy相同的语法在PyTorch中执行几乎所有的NumPy运算。标准的数学运算,如abs、add、argsort、ceil、floo、sin、cos、tan、sum、cumprod、diag、eig、exp、log、log2、log10、mean、median、mode、resize、round、sigmoid、softmax、square、sqrt、svd和transpose等,均可以直接在任何有轴或没有轴的张量上被调用。你总是可以运行dir(torch.Tensor)来查看所有可能的Torch张量方法,并通过help(torch.tensor.<method>)来查看关于该方法的官方帮助和相关文档。
接下来,我们将学习如何利用张量在数据上执行梯度计算,这是神经网络执行反向传播的一个关键点。