本发明提供一种基于概率整形的光信号调制、解调方法及传输系统，调制方法包括：将单路径比特序列分为第一和第二比特序列，将第一比特序列映射为正半振幅脉冲信号，经过解映射与第二比特序列结合后通过前向纠错编码产生奇偶校验位，将奇偶校验位与第二比特序列结合产生第三比特序列，将第三比特序列转换为二进制相移键控信号乘上正半振幅脉冲信号产生正振幅脉冲信号。根据第一和第二路径正振幅脉冲信号结合的第一正交振幅调制信号的子族约束对其余路径信号进行幅度平移调制，得到多维调制信号和多维校验位信号。将多维校验位信号映射为一维校验信号后与导频信号混合，再与多维调制信号一起向接收端发送。本发明能提高光传输频谱效率，抗噪性更好。