本发明提供了一种GTF星型齿轮‑转子耦合系统动力学建模方法，涉及机械动力学技术领域，包括如下步骤：S1、利用梁‑壳耦合单元建立转子的有限元模型；S2、利用梁单元建立太阳轮、行星轮和柔性齿圈有限元模型；S3、建立齿轮副啮合模型；S4、组集部件，得到系统的动力输入和输出端；S5、降低S4中动力输入和输出端和S2中行星轮有限元模型的矩阵维度；S6、利用S3中的啮合模型将动力输入端‑行星轮‑动力输出端连接，得到耦合系统的模型；S7、对S6中的耦合系统进行模态分析和动态响应分析，得到所述耦合系统的坎贝尔图和响应幅值曲线。与传统有限元方法相比，本方法计算效率更高，弥补了现阶段含复杂结构的齿轮‑转子刚柔耦合建模方法的空缺。