本发明涉及一种在线调整铁基非晶带粗糙度的真空电轧装置及其方法，所述装置包括真空机构和设置在真空机构内部两侧并通过张力带连接的张力机构，以及分别设置在张力带上下两侧的电轧辊，所述电轧辊的外侧均设置有传动辊，且所述张力带的一侧设置有变频电源，所述张力带的另一侧设置有温控组件，所述变频电源正极与设置在电轧辊一侧的电极触点连接，所述变频电源负极与设置在电轧辊上的电极触点连接。所述方法通过在真空环境下对铁基非晶带进行连续控温轧制，不仅能改善铁基非晶带的塑性和延展性，还能调节其内部残余应力、局部应变和降低轧制压力等；利用变频电流产生的集肤效应有效软化铁基非晶带材表面毛刺，可高效降低铁基非晶带表面粗糙度。