本发明提出一种卫星Ka频段可变编码调制数据传输系统及方法，可应用于低轨或中轨等非地球静止圆轨道遥感卫星的Ka频段星地数据传输系统中。包括：导航接收机、数传综合控制器、数据处理器、Ka可变编码调制器、滤波器、行放输入开关矩阵、行波管放大器、行放输出开关矩阵、对地数传天线；所述导航接收机解算本卫星的位置/速度/时间(PVT)信息并传输至数传综合控制器；所述数传综合控制器根据该信息以及存储的参数，完成调制编码模式(MODCOD)、行放输入功率回退(IBO)的调制参数选择，并在调制参数发生变化时将MODCOD/IBO设置指令发送给Ka可变编码调制器；所述数据处理器完成载荷数据处理后，将基带数据发送到Ka可变编码调制器。