本发明提供一种分布式存储系统中Qos的实现方法及装置，在接收到读写操作指令后，从读写操作令牌桶和带宽令牌桶中分别申请令牌，每个令牌桶中存储的令牌的总数与用户自身实际需求购买的服务质量相关，只有在令牌桶中存在令牌时，才能从令牌桶中申请到令牌，并且只有从读写操作令牌和带宽令牌桶中都申请到令牌，才能执行与读写操作指令对应的操作。其中，读写操作令牌桶中令牌数量用于限制每秒进行读写操作的次数(IOPS)，带宽令牌桶中令牌数量用于限制读写操作的带宽。实现了同时满足IOPS和带宽的要求。