本发明公开了一种基于物理层安全的混合通信性能优化方法、系统及介质，从物理层上保证通信安全，方法为：建立混合通信网络信号传输模型；以网络安全容量为优化目标，以人工噪声向量和波束成形向量为变量，在SDP、窃听者CSI未知的限制构建优化问题；根据窃听者的协作方式，计算窃听者信噪比将优化问题等效变换为SDP优化问题；将SDP优化问题进行变形，通过半定松弛技术得到近似凸优化问题；采取块坐标下降法将近似凸优化问题转化为三个凸优化子问题然后进行迭代求解，得到最优波束成形和人工噪声。本方法同时采用波束成形和人工噪声技术，提高混合通信网络信息传输的安全速率，有效提高混合通信中的安全性。