Un article explicatif du besoin et du fonctionnement du load balancing.

Très bien expliqué et avec des schéma intéractifs!

Pour bien comprendre les besoins, il ne faut pas oublié que les requêtes ne sont pas égales, certaines sont plus longues ou plus consommatrices que d'autre à exécuter.

Au dela du "simple" round robin, d'autres stratégies existent:

• least connection: le load balancer envoie la requête au serveur en ayant le moins en cours
• peak exponentially weighted moving average: calcul de la latence moyenne des serveurs et tente d'utiliser uniquement les serveurs ayant la plus faible latence

Un proxy distribué conçu pour rassemblé tous le traffic d'un ensemble de micro-services et profiter d'une gestion centralisée.

C'est un logiciel plus avancé que Nginx, Traefik ou HAProxy pour servir de load balancer: automatic retries, rate limiting, circuit breaker.

Une solution complète d'observabilité est aussi intégré directement à Envoy.