本发明涉及桥梁拆除技术领域，公开了一种水上大跨度桥梁上部结构拆除方法，拆除方法包括如下步骤：针对于无法支撑大型吊车上桥的老桥拆除，可采用两台小型吊车站在两侧未拆除桥面铺装的梁板上进行双击台吊拆除梁板，从而减小吊车对老桥的影响；先抬出中间梁板，放置在旁边的梁板上进行拖拉拆除；之后在梁板缺口位置安置导梁机构，保证梁板能顺利拖拽至将梁板吊放在导梁机构上，将后续拆除的梁板放置于导梁机构上进行输送拆除。针对上述步骤提出了一种水上大跨度桥梁上部结构拆除装置，应用于一种水上大跨度桥梁上部结构拆除方法，拆除装置包括桥梁架整体、吊挂机构、导梁机构以及梁板固定机构，桥梁架整体由梁板组成。