公开(公告)号：CN119740252A

公开(公告)日：2025-04-01

申请号：CN202411940742.2

申请日：2024-12-26

Applicant: 哈尔滨工业大学

Inventor： 杨洪伟 ,  张伟哲 ,  郝萌 ,  何慧 ,  赵荆浩

IPC: G06F21/60 ,  G06F9/48 ,  G06F9/54 ,  G06N3/0464 ,  G06N3/063

Abstract: 一种针对同态加密技术的GPU加速方法及系统，涉及同态加密和GPU加速技术，为了解决实现同态加密需进行复杂的系数位数较长的多项式计算而GPU缺乏处理这种这类数据的能力的问题而提出的，本发明的技术要点包括：采用一种基于线程束洗牌的优化技术，以消除同步开销；利用内核融合，以解决内存访问和计算之间的不平衡问题；对于神经网络推理应用，针对不同场景设计了不同的编码方法：对于小批量数据，采用一种基于大步小步算法的全连接层计算方法，减少了数据传输所需的旋转密钥数量。对于大批量数据，引入了一种基于流的计算方法来提高GPU利用率。本发明通过线程束洗牌、内核融合和神经网络推理优化，相比同态加密开源库SEAL实现了256倍的加速，分别在卷积神经网络上为小批量和大批量数据提供了毫秒和亚毫秒的推理速度。