本发明涉及一种齿轮传动系统非线性动力学建模方法。针对传统的齿轮传动系统动力学模型中的时变啮合刚度和阻尼系数难以在通用多体动力学软件中直接体现的问题，本发明对动力学模型进行了如下改进：将齿轮副之间的时变啮合刚度和阻尼对系统的激励效果，等效为作用于主被动齿轮质心处的时变啮合力和时变啮合扭矩，并给出了以时变啮合刚度和阻尼系数为自变量的时变啮合力和啮合扭矩的函数表达式。应用该方法建立的齿轮传动系统非线性动力学模型在保证了计算精确度的同时，又有高效的计算速度。