本发明公开了一种通信系统中信号传输方法、系统、电子设备及存储介质，涉及光通信领域，所述方法，包括：获取光纤通信系统中初始二进制信号；对初始二进制信号进行编码与符号映射后，得到初始奇位QAM信号；以广义互信息最大为目标对初始奇位QAM信号进行几何整形，得到整形后的信号；将整形后的信号调制在光载波上，得到混合信号；混合信号用于传输至光接收机；光接收机用于采用相位恢复算法对整形后的信号进行解映射和解码，得到初始二进制信号。本发明能降低计算复杂度，提升通信系统的传输性能。