本发明公开了一种基于两级代理的负载分流实现系统及方法，系统包括访问单元和业务单元，访问单元包括第一交换机、服务请求模块、本地虚拟服务网关和第一代理服务器；业务单元包括第二交换机、服务提供模块和第二代理服务器，所述第二代理服务器还通过调度数据网与所述第一代理服务器相连；当访问单元中的服务请求模块发起服务调用请求时，直接向本地的虚拟服务网关进行服务请求；所述本地虚拟服务网关基于预设的策略实现负载分流，经过所述第一代理服务器和第二代理服务器转发，访问指定业务员单元的服务，然后将访问结果返回给访问单元中的服务请求模块。本发明实现了服务请求模块能够跨两级代理进行服务调用，并根据业务单元健康状况进行分流与切换。