本发明属于光纤通信发射机损伤预补偿技术领域，具体涉及一种基于强化学习的相干光通信系统光域预补偿方法。其包括步骤S1：获取收发两端码元、时钟同步信号；步骤S2：构建发射端神经网络预失真器；步骤S3：定义强化学习优化目标；步骤S4：将步骤S1得到的收发端信号利用强化学习优化目标优化发射端神经网络预失真器；步骤S5：重复步骤S1及S4，直至强化学习优化目标函数收敛；步骤S6：通过收敛后的预失真器得到预失真频响曲线；步骤S7：应用可编程光滤波器根据预失真频响曲线构造所需的光域滤波曲线形状，实现相干光通信系统的光域补偿。