本发明涉及无线通信领域，公开了一种智能反射面的优化方法、NOMA传输方法及其系统。所述优化方法包括：S1：根据基站的位置、无人机的位置以及所述智能反射面的位置矩阵，确定所述基站到所述智能反射面的发射角度矩阵以及所述智能反射面到所述无人机的发送角度矩阵；以及S2：根据所述发射角度矩阵与所述发送角度矩阵，优化所述智能反射面的相位矩阵，以获取所述智能反射面的优化相位矩阵。本发明提出一种智能反射面辅助的高可靠NOMA传输策略来最大化系统的和速率，进而还可实现未来移动通信中高密度海量用户接入的需求以及容量提升的目标。