发明公开
- 专利标题: 一种深度可分离卷积的量化方法、装置、设备及介质
-
申请号: CN202010387381.9申请日: 2020-05-09
-
公开(公告)号: CN111598219A公开(公告)日: 2020-08-28
- 发明人: 高岩 , 郝虹 , 金长新
- 申请人: 济南浪潮高新科技投资发展有限公司
- 申请人地址: 山东省济南市高新区浪潮路1036号S05楼北六楼
- 专利权人: 济南浪潮高新科技投资发展有限公司
- 当前专利权人: 济南浪潮高新科技投资发展有限公司
- 当前专利权人地址: 山东省济南市高新区浪潮路1036号S05楼北六楼
- 代理机构: 北京君慧知识产权代理事务所
- 代理商 董延丽
- 主分类号: G06N3/04
- IPC分类号: G06N3/04 ; G06N3/08
摘要:
本申请公开了一种深度可分离卷积的量化方法、装置、设备及介质,包括:根据深度卷积层输入特征图的最大值,确定出所述深度卷积层输入特征图对应的第一量化因子,并根据所述深度卷积层输入特征图与所述第一量化因子,确定出第一结果;根据深度卷积层卷积核绝对值的最大值,确定出所述深度卷积层卷积核对应的第二量化因子,并根据所述深度卷积层卷积核与所述第二量化因子,确定出第二结果;将所述第一结果与所述第二结果进行深度卷积,确定出第三结果;根据预先确定的深度卷积层每个通道对应的量化系数,并将所述第三结果量化为预先设定的第一格式数据。