本发明涉及一种基于振动信号分析的齿轮箱整机状态评估方法和系统，方法包括：在齿轮箱内选取振动测点，获取各振动测点的振动信号，评估齿轮箱的运行状态；若齿轮箱的运行状态在齿轮箱故障运行状态区间内，则根据基于最优品质因子的共振稀疏分解法，提取高共振分量和低共振分量，从而判断故障程度和故障部位；最优品质因子的共振稀疏分解法通过共振稀疏分解法，从振动信号中提取高共振分量和低共振分量，通过复合指标KSI优化共振稀疏分解中的品质因子；复合指标KSI根据高共振分量的平滑指数和低共振分量的峭度计算。与现有技术相比，本发明避免了人为选取品质因子带来的主观性缺陷，具有可靠、客观、准确等优点。