百度360必应搜狗淘宝本站头条
vue dispatchspring gatewayorder by ascidea eval resetupdate canceled
当前位置：网站首页 > 技术分类 > 正文

mindspore 版 AdaptiveAvgPool2d 替代方案参考

ztj100 2024-11-14 19:23 11 浏览 0 评论

前言

最近用 mindspore 复现 Fast SCNN 网络的时候，里面用到了一个自适应平均池化算子 “nn.AdaptiveAvgPool2d”，但是 mindspore 目前的版本还没有提供对应的算子供开发者使用，所以笔者查阅了一部分资料，了解了其计算原理。实验结果表明，下述方法可以替代 AdaptiveAvgPool2d 算子，可以此为基础迁移至其他 AI 框架(比如mindspore、tensorflow)中。

一、AdaptiveAvgPool2d

AdaptiveAvgPool2d 的功能简单来讲就是，开发者只需要传入“待处理数据” 和 “目标大小”，该算子会自动计算池化操作时的kernel_size和stride等数据，使得输出结果的shape为“目标大小”。

但其实上述理解是不完全正确的，甚至是错误的。基于此理解可以稍微理解其功能，但是如果想对其进行复现，则会完全陷入误区。

目前普遍存在的一种复现方式是，既然我们知道普通池化操作的计算过程是：

已知池化层的kernel_size、padding、stride 以及输入张量的大小input_size，则输出张量大小 output_size 为：

    output_size =（input_size+2*padding-kernel_size）/stride +1

（此处简化了计算，如果输入张量的 column 值和 row 值不等，则分别计算）

那么我们就想办法通过 input_size 和 output_size 反推出 kernel_size、stride 等数值就好了，反向回去计算一定可以得到我们需要的数据。

但其实这种方法仅合其形，不对其意。我们只能使得输出张量是我们需要的“目标大小”，其内部数值却和 “nn.AdaptiveAvgPool2d” 的计算结果有不小差异，究其原因，在于出发点的错误。

二、AdaptiveAvgPool2d 计算原理

笔者翻阅了不少资料，最终在https://discuss.pytorch.org/t/what-is-adaptiveavgpool2d/26897 找到了我需要的内容。其中 Thomas 对AdaptiveAvgPool2d 做了相当准确的解释，我将其分享的代码改进为了 NCHW 的模式：

import torch.nn as nn
import torch

def torch_pool(inputs, target_size):
    #NCHW
    H = target_size[0]
    W = target_size[1]
    s_p1 = (torch.arange(W, dtype=torch.float32) * (inputs.size(-1) / W)).long()
    e_p1 = ((torch.arange(W, dtype=torch.float32)+1) * (inputs.size(-1) / W)).ceil().long()

    s_p2 = (torch.arange(H, dtype=torch.float32) * (inputs.size(-2) / H)).long()
    e_p2 = ((torch.arange(H, dtype=torch.float32)+1) * (inputs.size(-2) / H)).ceil().long()

    pooled2 = []
    for i_H in range(H):
      pooled = []
      for i_W in range(W):
          res = torch.mean(inputs[:, :, s_p2[i_H]:e_p2[i_H],s_p1[i_W]:e_p1[i_W]], dim=(-2,-1), keepdim=True)
          pooled.append(res)
      pooled = torch.cat(pooled, -1)
      pooled2.append(pooled)
    pooled2 = torch.cat(pooled2,-2)
    return pooled2

if __name__ == '__main__':

    data = [[[[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]]
              ,
            [[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]]
              ]]

    inputs = torch.tensor(data,dtype=torch.float32)
    print(inputs)
    print(inputs.size())
    print("*********************************")

    avgpool1 = torch_pool(inputs, (1,3))
    avgpool2 = torch_pool(inputs, (2,3))
    avgpool3 = torch_pool(inputs, (3,3))
    avgpool6 = torch_pool(inputs, (6,5))

    print(avgpool1)
    print("*********************************")
    print(avgpool2)
    print("*********************************")
    print(avgpool3)
    print("*********************************")
    print(avgpool6)

计算结果：

tensor([[[[2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.]],

         [[2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.]]]])
torch.Size([1, 2, 6, 8])
*********************************
tensor([[[[3., 6., 8.]],

         [[3., 6., 8.]]]])
*********************************
tensor([[[[3., 6., 8.],
          [3., 6., 8.]],

         [[3., 6., 8.],
          [3., 6., 8.]]]])
*********************************
tensor([[[[3., 6., 8.],
          [3., 6., 8.],
          [3., 6., 8.]],

         [[3., 6., 8.],
          [3., 6., 8.],
          [3., 6., 8.]]]])
*********************************
tensor([[[[2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000]],

         [[2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000]]]])

与 pytorch 的 nn.AdaptiveAvgPool2d 算子进行对比验证：

import torch.nn as nn
import torch

if __name__ == '__main__':

    data = [[[[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]]
              ,
            [[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]
              ,[2,3,4,5,6,9,7,8]]
              ]]

    x = torch.tensor(data,dtype=torch.float32)
    print(x)
    print(x.size())
    print("*********************************")

    avgpool1 = nn.AdaptiveAvgPool2d((1,3))
    avgpool2 = nn.AdaptiveAvgPool2d((2,3))
    avgpool3 = nn.AdaptiveAvgPool2d((3,3))
    avgpool6 = nn.AdaptiveAvgPool2d((6,5))
    print(avgpool1(x))
    print("*********************************")
    print(avgpool2(x))
    print("*********************************")
    print(avgpool3(x))
    print("*********************************")
    print(avgpool6(x))

计算结果：

tensor([[[[2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.]],

         [[2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.],
          [2., 3., 4., 5., 6., 9., 7., 8.]]]])
torch.Size([1, 2, 6, 8])
*********************************
tensor([[[[3., 6., 8.]],

         [[3., 6., 8.]]]])
*********************************
tensor([[[[3., 6., 8.],
          [3., 6., 8.]],

         [[3., 6., 8.],
          [3., 6., 8.]]]])
*********************************
tensor([[[[3., 6., 8.],
          [3., 6., 8.],
          [3., 6., 8.]],

         [[3., 6., 8.],
          [3., 6., 8.],
          [3., 6., 8.]]]])
*********************************
tensor([[[[2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000]],

         [[2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000],
          [2.5000, 4.0000, 5.5000, 7.3333, 7.5000]]]])

可以发现，无论是输出 shape 还是 Tensor 内部数值，二者都是一样的。

而且无论改变 NCHW 的哪一部分内容，扩充 N、C、H、W 的任意一维，最后的计算结果都是保持一致的。

三、AdaptiveAvgPool2d 计算原理详解

待补充。

至此，探究明白了 “nn.AdaptiveAvgPool2d” 的内部计算原理。并可以此为基础迁移至其他 AI 框架中。

四、mindspore版 AdaptiveAvgPool2d

观察上述代码，如果要重写成mindspore版的代码，我们只需要替换掉‘torch.arange’、‘torch.mean’、‘torch.cat’这三个主要算子，以及添加一个取整操作，在mindspore中就是ops.ReduceMean(keep_dims=True)、P.Concat(axis=-1)等算子，只要做对应替换就可以了。
但我之前在重写 res = torch.mean(inputs[:, :, s_p2[i_H]:e_p2[i_H],s_p1[i_W]:e_p1[i_W]], dim=(-2,-1), keepdim=True)这一句时，发现mindspore对‘变量下标’做切片操作时会发生异常，不太清楚是不是我的用法有问题。不过我写了一个临时的版本，比如如果要将NCx32x64的数据池化成NCx6x6大小,我们可以提前计算出需要切片的下标，就可以得到这样一版可用的代码了：

def _AvgPool2d6x6(self,x):
        s_p1 = [ 0, 10, 21, 32, 42, 53]
        e_p1 = [11, 22, 32, 43, 54, 64]
        s_p2 = [ 0,  5, 10, 16, 21, 26]
        e_p2 = [ 6, 11, 16, 22, 27, 32]       
        pooled2 = []
        for i_H in range(6):
          pooled = []
          for i_W in range(6):
              res = self.reduceMean(x[:, :, s_p2[i_H]:e_p2[i_H],s_p1[i_W]:e_p1[i_W]], (-2,-1))
              pooled.append(res)
          pooled = self.concat1((pooled[0],pooled[1],pooled[2],pooled[3],pooled[4],pooled[5]))
          pooled2.append(pooled)
        pooled2 = self.concat2((pooled2[0],pooled2[1],pooled2[2],pooled2[3],pooled2[4],pooled2[5]))       
        return pooled2

原载于http://luxuff.cn ，作者还是我自己。
转载请注明出处。

相关推荐

从IDEA开始，迈进GO语言之门（idea got）

前言笔者在学习GO语言编程的时候，GO语言在国内还没有像JAVA/Php/Python那样普及，绕了不少的弯路，要开始入门学习一门编程语言，最好就先从选择一个好的编程语言的开发环境开始，有了这个开发环...

基于SpringBoot+MyBatis的私人影院java网上购票jsp源代码Mysql

本项目为前几天收费帮学妹做的一个项目，JavaEEJSP项目，在工作环境中基本使用不到，但是很多学校把这个当作编程入门的项目来做，故分享出本项目供初学者参考。一、项目介绍基于SpringBoot...

基于springboot的个人服装管理系统java网上商城jsp源代码mysql

本项目为前几天收费帮学妹做的一个项目，JavaEEJSP项目，在工作环境中基本使用不到，但是很多学校把这个当作编程入门的项目来做，故分享出本项目供初学者参考。一、项目介绍基于springboot...

基于springboot的美食网站Java食品销售jsp源代码Mysql

本项目为前几天收费帮学妹做的一个项目，JavaEEJSP项目，在工作环境中基本使用不到，但是很多学校把这个当作编程入门的项目来做，故分享出本项目供初学者参考。一、项目介绍基于springboot...

贸易管理进销存springboot云管货管账分析java jsp源代码mysql

本项目为前几天收费帮学妹做的一个项目，JavaEEJSP项目，在工作环境中基本使用不到，但是很多学校把这个当作编程入门的项目来做，故分享出本项目供初学者参考。一、项目描述贸易管理进销存spring...

SpringBoot+VUE员工信息管理系统Java人员管理jsp源代码Mysql

本项目为前几天收费帮学妹做的一个项目，JavaEEJSP项目，在工作环境中基本使用不到，但是很多学校把这个当作编程入门的项目来做，故分享出本项目供初学者参考。一、项目介绍SpringBoot+V...

目前见过最牛的一个SpringBoot商城项目(附源码)还有人没用过吗

帮粉丝找了一个基于SpringBoot的天猫商城项目，快速部署运行，所用技术：MySQL，Druid，Log4j2，Maven，Echarts，Bootstrap...免费给大家分享出来前台演示...

SpringBoot+Mysql实现的手机商城附带源码演示导入视频

今天为大家带来的是基于SpringBoot+JPA+Thymeleaf框架的手机商城管理系统，商城系统分为前台和后台、前台用的是Bootstrap框架后台用的是SpringBoot+JPA都是现在主...

全网首发!马士兵内部共享—1658页《Java面试突击核心讲》

又是一年一度的“金九银十”秋招大热门，为助力广大程序员朋友“面试造火箭”，小编今天给大家分享的便是这份马士兵内部的面试神技——1658页《Java面试突击核心讲》！...

SpringBoot数据库操作的应用（springboot与数据库交互）

1.JDBC+HikariDataSource...

SpringBoot 整合 Flink 实时同步 MySQL

1、需求在Flink发布SpringBoot打包的jar包能够实时同步MySQL表，做到原表进行新增、修改、删除的时候目标表都能对应同步。...

SpringBoot + Mybatis + Shiro + mysql + redis智能平台源码分享

后端技术栈基于SpringBoot+Mybatis+Shiro+mysql+redis构建的智慧云智能教育平台基于数据驱动视图的理念封装element-ui，即使没有vue的使...

Springboot+Mysql舞蹈课程在线预约系统源码附带视频运行教程

今天发布的是由【猿来入此】的优秀学员独立做的一个基于springboot脚手架的Springboot+Mysql舞蹈课程在线预约系统，系统项目源代码在【猿来入此】获取！https://www.yuan...

SpringBoot+Mysql在线众筹系统源码+讲解视频+开发文档(参考论文

今天发布的是由【猿来入此】的优秀学员独立做的一个基于springboot脚手架的在线众筹管理系统，主要实现了普通用户在线参与众筹基本操作流程的全部功能，系统分普通用户、超级管理员等角色，除基础脚手架外...

Docker一键部署 SpringBoot 应用的方法，贼快贼好用

这两天发现个Gradle插件，支持一键打包、推送Docker镜像。今天我们来讲讲这个插件，希望对大家有所帮助！GradleDockerPlugin简介...

取消回复欢迎 你 发表评论:

一周热门
最近发表
标签列表
Copyright Your WebSite.Some Rights Reserved.