本申请公开了一种基于非线性最优平滑层策略的平滑变结构滤波方法及系统，方法包括：基于非线性切换函数在最小均方误差准则下实时计算非线性最优平滑层参数；将该非线性最优平滑参数与预设的平滑层参数对比，以判断当前模型不确定度的大小；根据不确定度大小采用一种自适应切换策略计算增益项，并利用增益项在一个先验预测‑后验更新的框架中计算目标状态估计值；上述过程序贯迭代以实现对目标状态的持续跟踪。该方法采用基于非线性最优平滑层参数的自适应切换策略计算增益项，能够实现跟踪算法及系统在低模型不确定度下的最优性，同时保证高不确定度下的鲁棒性和优良的抖振抑制特性，从而获得更好的目标状态跟踪精度，具有较高的工程应用价值。