Optimisez l'envoi de vos fichiers vers S3 Object Storage

Dernière mise à jour le 08/12/2021

Objectif

Découvrez comment optimiser l'envoi de vos fichiers vers votre bucket.

Prérequis

En pratique

Les commandes de transfert aws s3 sont multithreadées. À tout moment, plusieurs requêtes sont en cours.

Par exemple, si vous téléchargez un répertoire via aws s3 cp localdir s3://bucket/ --recursive, l'AWS CLI pourrait télécharger en parallèle les fichiers locaux localdir/file1, localdir/file2 et localdir/file3. La valeur max_concurrent_requests spécifie le nombre maximum de commandes de transfert autorisées à un moment donné.

Vous pouvez avoir besoin de modifier cette valeur pour plusieurs raisons :

  • Diminuer cette valeur

Sur certains environnements, la valeur par défaut de 10 demandes simultanées peut submerger un système. Cela peut provoquer des interruptions de connexion ou ralentir la réactivité du système. En diminuant cette valeur, les commandes de transfert S3 seront moins gourmandes en ressources. La contrepartie est que les transferts S3 peuvent prendre plus de temps à se terminer. Il peut être nécessaire de réduire cette valeur si vous utilisez un outil tel que trickle pour limiter la bande passante.

  • Augmentation de cette valeur

Dans certains scénarios, vous pouvez souhaiter que les transferts S3 se terminent aussi rapidement que possible, en utilisant autant de bande passante que nécessaire. Dans ce scénario, le nombre de requêtes simultanées par défaut peut ne pas être suffisant pour utiliser toute la bande passante du réseau disponible. L'augmentation de cette valeur peut améliorer le temps nécessaire à la réalisation d'un transfert S3.

Cette valeur doit être définie sous la clé s3 de premier niveau dans le fichier de configuration AWS, dont l'emplacement par défaut est ~/.aws/config.

user@host:~$ cat ~/.aws/config

[profile default]
region = <region>
s3 =
  endpoint_url = https://s3.<region>.perf.cloud.ovh.net
  max_concurrent_requests = 20
  signature_version = s3v4
s3api =
  endpoint_url = https://s3.<region>.perf.cloud.ovh.net

Vous pouvez également définir cette valeur à l'aide de la commande aws configure set.

aws configure set default.s3.max_concurrent_requests 20

Aller plus loin

Échangez avec notre communauté d'utilisateurs sur https://community.ovh.com.


Cette documentation vous a-t-elle été utile ?

N’hésitez pas à nous proposer des suggestions d’amélioration afin de faire évoluer cette documentation.

Images, contenu, structure… N’hésitez pas à nous dire pourquoi afin de la faire évoluer ensemble !

Vos demandes d’assistance ne seront pas traitées par ce formulaire. Pour cela, utilisez le formulaire "Créer un ticket" .

Merci beaucoup pour votre aide ! Vos retours seront étudiés au plus vite par nos équipes..


Ces guides pourraient également vous intéresser...

OVHcloud Community

Accedez à votre espace communautaire. Posez des questions, recherchez des informations, publiez du contenu et interagissez avec d’autres membres d'OVHcloud Community.

Echanger sur OVHcloud Community