Travailler avec les sondes

Objectif

L'OVH Load Balancer permet de répartir le trafic entrant sur un front-end vers un ensemble de serveurs d'une ferme de destination.

Il peut arriver que l'un des serveurs de votre ferme ne soit plus disponible pour différentes raisons, comme une surcharge, un incident ou une maintenance planifiée. Lorsqu'il rencontre une erreur de connexion, votre OVH Load Balancer va tenter de basculer le trafic sur un autre serveur. La connexion sera ralentie, mais continuera de fonctionner.

Cependant, les causes de certaines indisponibilités sont plus subtiles. Par exemple, si une nouvelle version du code est en cours de déploiement, l'application peut se trouver momentanément dans un état transitoire et retourner des erreurs 500. Dans ce cas précis, une solution serait de marquer les serveurs concernés comme indisponibles dans l'API avant le début de la maintenance, appliquer la configuration et la mise à jour, puis marquer à nouveau le serveur comme disponible. Cette méthode n'est pas idéale mais fonctionne. Pour plus de détail sur le déploiement d'une architecture Blue-Green avec votre OVH Load Balancer, référez-vous à la documentation suivante : https://docs.ovh.com/fr/load-balancer/blue-green/.

Les sondes (probes en anglais) sont des tests de santé. Elles interrogent périodiquement chacun de vos serveurs pour s'assurer qu'ils sont opérationnels. Si une erreur est détectée, le serveur est automatiquement désactivé jusqu'à ce que la situation soit rétablie.

Ce service étant encore jeune, l'essentiel de ses fonctionnalités est uniquement disponible dans l'API.

Ce guide vous présentera les principes généraux, ainsi que des scénarios d'utilisation des sondes tirés de cas d'usages réels.

Prérequis

• Disposer d'un OVH Load Balancer correctement configuré, avec un paramétrage des fermes et des serveurs.

En pratique

Présentation de l'API

L'API des sondes de votre OVH Load Balancer a été pensée pour être souple et évolutive.

Les sondes se configurent directement sur les fermes. Tous les serveurs d'une même ferme appliquent ainsi exactement la même sonde. Cependant, l'activation ou la désactivation d'une sonde est spécifique à chaque serveur : il est donc possible de ne « surveiller » que certains serveurs d'une même ferme.

La liste des sondes disponibles et de leurs paramètres peut être consultée avec l'appel d'API :

Pour plus d'informations sur cet appel, nous vous invitons à consulter la section Sondes disponibles en bas de ce guide.

Les sondes retournées par cette liste peuvent être configurées sur les fermes http et tcp via les appels :

Pour plus d'informations sur ces appels, vous pouvez consulter la section Manipulation des sondes en bas de ce guide.

Exemples

Vérifier si le serveur accepte des connexions TCP

Il s'agit de la sonde la plus simple à mettre en place. Elle est compatible avec les fermes tcp et http. Si aucune autre sonde n'est configurée, vous pouvez activer celle-ci pour commencer. Elle fonctionne en essayant périodiquement d'ouvrir une connexion sur chacun de vos serveurs. Si la connexion échoue deux fois de suite, le serveur est mis de côté jusqu'à ce qu'il réponde à nouveau.

Dans la pratique, cela donne une sonde :

Tous les autres champs probe peuvent rester à leur valeur par défaut. Il ne reste ensuite qu'à appliquer la configuration dans la zone concernée et le tour est joué.

Tester une page HTTP spécifique

Par défaut, la sonde HTTP envoie une requête "OPTIONS" sur "/" en HTTP/1.0, sans nom de domaine. Cela suffit dans beaucoup de cas, mais certains serveurs ne gèrent pas cette méthode. Et il est possible de faire des tests beaucoup plus puissants avec la sonde HTTP. Par exemple, une bonne pratique lors de l'exposition d'un service HTTP consiste à ajouter une route dédiée aux sondes. Il est courant de retrouver des "/status", "/health", "/check" qui renvoient une synthèse de l'état du service.

Dans la pratique, si vous voulez configurer la sonde pour envoyer une requête "GET" sur http://api.example.com/status, cela donne :

Tous les autres champs probe peuvent rester à leur valeur par défaut. Il suffit ensuite d'appliquer la configuration dans la zone concernée.

Utiliser un test HTTP externe

Que se passe-t-il si votre service est, par exemple, un serveur IMAP qui repose sur un serveur LDAP pour l'authentification ? Il est possible que le serveur accepte des connexions mais qu'il ait un souci temporaire de connexion avec le serveur LDAP. Si cela arrive, les clients qui seraient dirigés vers ce serveur pourraient se connecter mais pas s'authentifier. Le serveur devrait donc être retiré de la ferme.

Si une sonde de type tcp est utilisée, elle arrivera à se connecter et considérera que le service est disponible bien que ce ne soit pas le cas.

Dans ce scénario, l'idéal serait que le test de santé puisse confirmer que le service de base fonctionne. Il est possible d'indiquer un port spécifique à utiliser dans les tests. Cela permet de mettre en place des tests arbitraires pour un service et les exposer en HTTP, sur un port dédié.

Par exemple, dans ce scénario, il serait possible d'avoir un serveur HTTP sur le port 8080 qui teste le serveur IMAP via l'url "/service/imap/status" et retourne OK lorsque tout va bien. Ce qui donnerait dans la pratique :

Il ne reste ensuite qu'à appliquer la configuration dans la zone concernée et le tour est joué.

Référence

Manipulation des sondes

Configurer une sonde

Les sondes peuvent être configurées sur une nouvelle ferme (POST) ou une ferme existante (PUT). Les deux méthodes étant équivalentes, seule la seconde (PUT) sera présentée ici.

Service :

PUT /ipLoadbalancing/{serviceName}/http/farm/{farmId}

Paramètres :

serviceName

L'identifiant de votre OVH Load Balancer.

farmId

L'identifiant numérique de votre ferme.

probe

type

Le type de la probe à activer. Les types de sonde gérés sont :

tcp pour un test de connexion TCP basique ;

http pour un test de connexion HTTP. Il est possible de spécifier l'URL et la méthode ;

smtp pour un test de connexion SMTP basique ;

mysql pour un test de connexion MySQL basique ;

pgslq pour un test de connexion PostgreSQL basique ;

oco pour une validation de l'état général retourné sur le port 79.

interval

L'intervalle en secondes entre deux tentatives de la sonde. Il doit être au moins de 30 secondes.

port

Le port que la sonde doit utiliser, s'il est différent de celui configuré sur la ferme. Cela permet de déléguer la validation de l'état du serveur à un service tiers sur la machine et de réaliser des sondes arbitraires.

method

La méthode HTTP à utiliser si la sonde est de type "http". Les méthodes compatibles sont GET, HEAD et OPTIONS (par défaut).

url

L'URL à utiliser pour les tests, si la sonde est de type "http". Sa forme doit être [[https?://]www.example.com]/path/to/check. Si un domaine est spécifié, la requête sera envoyée en HTTP/1.1 au lieu de HTTP/1.0 par défaut.

match

Le type de comparateur à utiliser pour vérifier que le serveur est en bonne santé. Les comparateurs gérés sont default, status, contains et matches. Les comparateurs sont compatibles avec les sondes "http" et "tcp".

pattern

La valeur à utiliser en argument du comparateur si différent de "default".

forceSsl

Cela définit si la sonde doit fonctionner en SSL/TLS même si la ferme est configurée pour se connecter en TCP classique. Cela peut servir par exemple lorsque votre OVH Load Balancer est configuré pour faire suivre le trafic HTTPS en TCP sans le déchiffrer.

D'autres paramètres peuvent être édités via cet appel. Dans la mesure où ce guide se concentre sur les sondes, ils ne sont pas documentés ici.

Si un port autre que le port de base de la ferme est configuré sur la sonde, les paramètres proxyprotocol et ssl sont réinitialisés. Prenons l'exemple d'une ferme configurée pour utiliser le proxyprotocol sur le port 4242 et d'une sonde associée employant le port 8080 : cette dernière n'enverra pas l'entête proxyprotocol lorsqu'elle se connectera sur le port 8080. Il en est de même pour le ssl, qui peut néanmoins être forcé.

Activer les sondes sur un serveur

Pour qu'une sonde soit active, il faut qu'elle ait été configurée sur la ferme et activée sur les serveurs concernés. Cet appel permet d'activer la prise en compte de la sonde :

Service :

PUT /ipLoadbalancing/{serviceName}/http/farm/{farmId}/server/{serverId}

Paramètres :

serviceName

L'identifiant de votre OVH Load Balancer.

farmId

L'identifiant numérique de votre ferme.

serverId

L'identifiant numérique de votre serveur.

probe

Si les probe doivent être prises en compte ou non.

D'autres paramètres peuvent être édités via cet appel. Dans la mesure où ce guide se concentre sur les sondes, ils ne sont pas documentés ici.

Comparateurs disponibles

Quatre comparateurs sont disponibles pour valider le résultat d'une sonde :

Les comparateurs contains et matches cherchent une correspondance dans les 16 premiers ko de la réponse. Si celle-ci est plus longue, la partie au-delà sera ignorée lors de la recherche. Notez que pour de meilleures performances, nous vous recommandons de retourner le moins d'informations possible dans vos sondes.

Sondes disponibles

La liste des sondes disponibles peut être obtenue avec l'appel API :

Service :

GET /ipLoadbalancing/{serviceName}/availableFarmProbes

Réponse :

type

Le type de la probe à configurer dans le champ probe.type des fermes.

Les types de sonde gérés sont :

tcp pour un test de connexion TCP basique ;

http pour un test de connexion HTTP. Il est possible de spécifier l'URL et la méthode ;

smtp pour un test de connexion SMTP basique ;

mysql pour un test de connexion MySQL basique ;

pgslq pour un test de connexion PostgreSQL basique ;

oco pour une validation de l'état général retourné sur le port 79.

port

Cela définit si le port peut être configuré pour cette sonde.

method

La liste de méthodes HTTP gérées ou null s'il n'en existe aucune.

url

Cela définit si l'URL de la sonde peut être configurée.

matches

La liste de comparateurs disponibles pour cette sonde. L'interprétation du champ probe.pattern dépend de ce champ. Les comparateurs potentiellement gérés sont :

default test le plus simple, sans conditions particulières. probe.pattern doit être vide ;

status vérifie que le code d'état HTTP est dans la liste délimitée par des virgules ;

contains vérifie que la réponse du serveur contient probe.pattern ;

matches vérifie que la réponse du serveur correspond à probe.pattern.

TCP

Cette sonde tente d'établir une connexion TCP avec le serveur. Si ce dernier envoie une « bannière », il est possible de vérifier qu'elle correspond à un schéma. Le test par défaut s'assure simplement que la connexion peut être établie.

HTTP

Cette sonde tente d'établir une connexion HTTP avec le serveur. Si ce dernier répond, il est possible de vérifier son code d'état HTTP ou que le corps de la réponse correspond à un schéma. Le test par défaut envoie une requête OPTIONS sur la page '/' en HTTP/1.0, sans champ Host.

Si une URL est spécifiée, le nom de domaine et le protocole sont opérationels. Si un nom de domaine est spécifié, le champ "Host" de la requête sera renseigné et la requête sera envoyée en HTTP/1.1. Si le protocole est spécifié, il doit être cohérent avec la configuration SSL de la ferme.

SMTP

Cette sonde tente d'établir une connexion SMTP avec le serveur et envoie la commande "HELLO localhost". Si ce dernier répond, la sonde vérifie que le code de retour commence par un "2" (succès). Cette sonde n'a pas d'options de configuration particulières.

MySQL

Cette sonde tente d'établir une connexion MySQL avec le serveur et analyse la réponse du serveur. Cette sonde n'a pas d'options de configuration particulières.

PostgreSQL

Cette sonde tente d'établir une connexion PostgreSQL avec le serveur et analyse la réponse du serveur. Cette sonde n'a pas d'options de configuration particulières.

oco

Cette sonde tente d'établir une connexion TCP sur le port 79 de votre serveur et vérifie que la réponse commence par un "2" (succès). Cette sonde n'a pas d'options de configuration particulières.

Depuis le manager

La configuration des sondes se fait lors de l'ajout (ou modification) d'une ferme de serveurs, dans les paramètres avancés.

Vous avez alors accès à la configuration du type de sonde.

Si le type de sonde séléctionné le permet, vous pouvez configurer les paramètres avancés spécifiques à cette sonde.

Une nouvelle fenêtre de configuration apparaît avec les paramètres de la sonde.

Ces guides pourraient également vous intéresser...