本发明提供了一种基于近似消息传递算法的深度学习波束域信道估计方法，主要运用于基于透镜天线的毫米波大规模MIMO系统中。本方法包括如下步骤：(1)构建深度网络结构，该深度网络主要由两部分构成，其一是基于近似消息传递算法的模型驱动深度网络LAMP，其二是基于残差学习的数据驱动深度网络ResNet；(2)根据透镜天线的几何结构对波束域信道进行建模，根据系统模型生成训练数据；(3)运用具有不同信噪比的训练数据对网络进行线下训练；(4)固定优化后的网络参数，根据射频链端的接收信号，利用训练好的网络进行实时的波束域信道估计；本发明能够有效地提高波束域信道估计的精度，同时拥有和传统信道估计算法相似的计算复杂度。