Calcul en Limousin

Cette page est en lecture seule. Vous pouvez afficher le texte source, mais ne pourrez pas le modifier. Contactez votre administrateur si vous pensez qu'il s'agit d'une erreur.
~~SLIDESHOW yatil~~
====== Affinités des processus sous Slurm ======

Cet article explique la configuration adoptée concernant l'affinité des processus sous slurm, c'est à dire leur //liaison// avec les CPU des nœuds de calcul.

===== Affinité =====
  * L'[[https://en.wikipedia.org/?title=Processor_affinity  | affinité ]] d'un processus permet de le lier à un ou plusieurs cœurs sur une machine multi-cœur 
  * Le processus sera ainsi cantonné à un ensemble donné de cœurs pour son exécution. Il ne pourra pas être exécuté par Linux sur les autres cœurs du serveur
  * Deux raisons ont conduits à activer automatiquement l'affinité sous slurm, que nous expliquons ci-après

===== Restriction des CPU =====
==== Le problème ====
  * Sur notre cluster, les nœuds de calcul fonctionnent par défaut en mode //partagé// : plusieurs jobs peuvent s'exécuter en même temps sur le même nœud
  * Dans un job slurm, vous demandez une réservation, par exemple pour 4 CPU
  * Mais vous avez la liberté de lancer plus de 4 processus simultanés, ou un processus avec plus de 4 //threads// : Slurm ne contrôle pas cela
  * Il y a donc un risque de surcharge du nœud qui va impacter les autres usagers

==== La solution ====
  * Slurm dispose de plusieurs mécanismes permettant de circonscrire les ressources utilisables
  * Nous utilisons le plus simple des deux via le paramètre ''TaskPlugin=task/affinity''
  * Slurm positionnera automatiquement l'affinité des processus pour limiter le nombre de CPU utilisables à la valeur demandée dans ''%%--cpus-per-task%%''
  * Un job mal construit qui demande 4 CPU mais lance par exemple 6 thread n'impactera pas les autres usagers, ses 6 threads ne pourront s'exécuter que sur les 4 cœurs alloués par slurm
===== Accès mémoires =====
  * Sur une architecture SMP, plusieurs phénomènes peuvent dégrader **considérablement** les performances
  * Sans rentrer dans les détails, en particulier le //[[https://en.wikipedia.org/wiki/CPU_cache | cache miss]]// sera accentué si un processus peut s'exécuter alternativement sur des processeurs différents
  * Il est donc conseillé pour optimiser la performance d'un programme de le lier à un cœur
  * Le gain de performance peut atteindre 40%
===== Références =====
Documentation slurm :
  * [[http://www.schedmd.com/slurmdocs/cpu_management.html | CPU Management User and Administrator Guide]]
Calcul en Limousin

Outils pour utilisateurs

Outils du site

Outils de la page
