本发明专利属于光学测量技术领域，具体涉及一种基于光学模式自动分离技术的小位移精密测量系统及方法。本发明利用数据采集单元从光束分析仪中捕获光斑图样数据，将捕获的图像数据转换为二维数组，并通过卷积神经网络对光斑的质心坐标进行精确拟合。接着，系统根据预设参数调整镜架，计算X轴和Y轴的位移量，利用强化学习算法实时调整电动镜架的角度，以优化干涉条纹的对比度，从而确保光路的对准精度。本发明通过精确调整合束器和第四反射镜的位置，实现HG10和HG01模式的有效分离。因此本发明能够自动分离不同的横模，并且能够快速、精确地对准光路。这大大提高了光学测量的效率和精度，使得系统在精密工程、科学研究等领域具有广泛的应用前景。