Comment les transitoires de charge AI affectent la planification de la capacité de UPS et de distribution d'énergie

Pourquoi les transitoires de charge AI affectent-ils UPS ?

Les tâches d'entraînement GPU à grande échelle peuvent amener de nombreux nœuds de calcul à changer leur consommation d'énergie de manière quasi synchrone, entraînant des changements plus rapides et plus concentrés que les charges de travail informatiques mixtes traditionnelles.La puissance moyenne reste dans la valeur nominale de l'équipement, mais cela ne signifie pas que les pics répétés, les taux de variation et les creux de récupération n'affecteront pas la UPS, le stockage d'énergie, les bus, la protection des départs et la qualité de l'énergie.

L'ampleur de l'impact dépend de la charge de travail, de la taille du cluster, de la gestion de l'alimentation du GPU, de l'alimentation du serveur, de la topologie électrique, de l'effet d'amortissement des autres charges non-AI et de la vitesse d'échantillonnage du système de surveillance. Le pourcentage de pointe d'un cas public ne peut pas être directement appliqué à un autre centre de données.

L'équipe de conception doit distinguer quatre types de problèmes

Que faut-il collecter avant de choisir UPS ou de réviser les systèmes existants ?

• Puissance maximale continue du serveur ou du rack, pics de courte durée, durée des pics et taux d'augmentation de puissance autorisé
• Séquences temporelles de différentes combinaisons de charges telles que l'entraînement, l'inférence, la communication et le stockage, plutôt que la simple somme des plaques signalétiques
• Explication des courbes de surcharge et de la réponse dynamique de UPS à différents facteurs de puissance, températures et états de batterie
• Fréquence d'appel des batteries ou autres dispositifs de stockage d'énergie, profondeur de décharge, stratégie de récupération et impact sur la durée de vie
• Coordination des résultats entre le générateur en amont, le transformateur, les appareils de commutation, les barres omnibus, la protection PDU et les départs
• Solutions de mesure de puissance et de qualité d'énergie à haute résolution répondant à la durée de l'événement

La prise de décision technique ne doit pas se résumer à « agrandir UPS »

Les tâches d'entraînement GPU à grande échelle peuvent amener de nombreux nœuds de calcul à changer leur consommation d'énergie de manière quasi synchrone, entraînant des changements plus rapides et plus concentrés que les charges de travail informatiques mixtes traditionnelles. Les moyens de contrôle possibles incluent l'augmentation des marges de capacité éprouvées, l'optimisation de la distribution de la charge, l'ajustement des paramètres de protection, l'utilisation du stockage d'énergie plus près de la charge, la limitation de la puissance du GPU ou du taux de changement, et la réduction des fluctuations de synchronisation du cluster par la planification. Cependant, chaque mesure affectera l'efficacité, le coût, la disponibilité ou les performances de calcul.