Suponha que enfrentamos xsolicitações por segundos, onde xé o número mágico de solicitações que um único balanceador de carga não pode manipular.
Portanto, temos que usar vários balanceadores de carga para lidar com todas as solicitações, sim? Mas como? Preciso balancear a carga do farm de balanceadores de carga? Má ideia, no final também ocorre que um único balanceador de carga deve lidar com todas as solicitações.
Então, como usar vários balanceadores de carga para lidar com um grande número de solicitações?
Em vez de passar todo o tráfego por um único balanceador de carga, você pode balancear a carga no nível da rede utilizando o ECMP (Equal-cost multi-path Routing) .
Há duas apresentações do HAProxy Conf 2019 que descrevem a arquitetura de balanceamento de carga de Booking.com e GitHub