一种深度可分离卷积的量化方法、装置、设备及介质
摘要:
本申请公开了一种深度可分离卷积的量化方法、装置、设备及介质,包括:根据深度卷积层输入特征图的最大值,确定出所述深度卷积层输入特征图对应的第一量化因子,并根据所述深度卷积层输入特征图与所述第一量化因子,确定出第一结果;根据深度卷积层卷积核绝对值的最大值,确定出所述深度卷积层卷积核对应的第二量化因子,并根据所述深度卷积层卷积核与所述第二量化因子,确定出第二结果;将所述第一结果与所述第二结果进行深度卷积,确定出第三结果;根据预先确定的深度卷积层每个通道对应的量化系数,并将所述第三结果量化为预先设定的第一格式数据。
0/0