Un portefeuille leader du secteur pour les charges de travail d'inférence d'IA d'entreprise

L'inférence d'IA utilise un modèle d'IA entraîné pour faire des prédictions sur les nouvelles données. AMD propose toute une gamme de solutions d'inférence d'IA adaptées à la taille de votre modèle et aux exigences de votre application. Les processeurs AMD EPYC™ sont parfaits pour les modèles d'IA et les charges de travail de petite et moyenne taille où la proximité avec les données est importante. Pour les applications de traitement par lot ou hors ligne où le temps de latence n'est pas critique, les processeurs AMD EPYC offrent une solution d'inférence économique.

Ce ne sont là que quelques-unes des charges de travail d'IA qui fonctionnent bien sur les processeurs AMD EPYC. Pour en savoir plus sur chaque type de charge de travail, lisez cet article avec les détails.

Découvrez les 5 principales charges de travail d'inférence de CPU

Tolérance faible concernant le temps de latence
 

Type de système

Exemples

Raison

Systèmes de recommandation
  • Filtrage basé sur le contenu
  • Filtrage collaboratif
  • Classification et similarité
  • Utilisation fréquente de modèles plus petits
  • Prise en charge des données éparses et diverses
  • Certaine tolérance en termes de précision

Apprentissage automatique
  • Arbres de décision
  • Régression linéaire
  • Prise en charge des machines vectorielles
  • Utilisation d'opérations séquentielles
  • Variété de calculs mathématiques

Tolérance modérée concernant le temps de latence
 

Type de système

Exemples

Raison

Traitement du langage naturel
  • Classification du texte
  • Analyse des sentiments
  • Synthèse vocale et transcription audio
  • Exigences de performances définies pour permettre une compréhension humaine
  • Modèles et ensembles de données plus petits

Applications mixtes compatibles avec l'IA
  • Analyse de base de données
  • Simulation et modélisation
  • Interactivité en temps réel
  • Traitement des données séquentielles
  • Changement de contexte rapide dans le flux de travail

Tolérance élevée concernant le temps de latence

Type de système

Exemples

Raison

IA générative
  • Génération de documents
  • Création d'image à partir de texte
  • Création de vidéo à partir d'image
  • Flux de travail de création souvent répétitifs et par lot
  • Utilisé pour les tâches habituellement gourmandes en temps et en ressources humaines

Grands modèles de langage (LLM)
  • Chatbots
  • Synthèse
  • Traduction
  • Invites plus courtes
  • Ensembles de données plus petits

Applications et secteurs

Les modèles d'IA intégrés à la vision par ordinateur, au traitement du langage naturel et aux systèmes de recommandation ont eu un impact considérable sur les entreprises de plusieurs secteurs. Ces modèles aident les entreprises à reconnaître les objets, à classer les anomalies, à comprendre les mots écrits et prononcés, et à formuler des recommandations. En accélérant le développement de ces modèles, les entreprises peuvent en tirer des avantages, quel que soit leur secteur d'activité.

Automated Driving Illustration

Automobile

Les modèles de vision par ordinateur permettent aux voitures autonomes d'avancer et de reconnaître la signalisation, les piétons et les autres véhicules à éviter. Les modèles de traitement du langage naturel peuvent aider à reconnaître les commandes vocales de la télématique embarquée.

data image

Services financiers

La détection des anomalies basée sur l'IA permet d'arrêter les fraudes à la carte de crédit, tandis que les modèles de vision par ordinateur détectent les documents suspects, y compris les chèques des clients.

abstract retail image

Commerce de détail

Automatisez les caisses grâce à la reconnaissance des produits, ou créez des expériences d'achat autonomes où les modèles relient les clients aux articles qu'ils choisissent et mettent dans leurs sacs de courses. Utilisez des moteurs de recommandation de produits pour proposer des alternatives, en ligne ou en magasin.

Manufacturing Gears

Fabrication

Utilisez des modèles de vision par ordinateur pour surveiller la qualité des produits fabriqués, qu'il s'agisse de produits alimentaires, de cartes de circuit imprimé, etc. Alimentez les moteurs de recommandation avec les données de télémétrie pour suggérer une maintenance proactive : les disques sont-ils sur le point de tomber en panne ? Le moteur utilise-t-il trop d'huile ?

Top view of cardiologist doctor medical healthcare desk

Médical

Détectez les anomalies, y compris les fractures et les tumeurs, à l'aide de modèles de vision par ordinateur. Utilisez les mêmes modèles dans la recherche pour évaluer la croissance et la prolifération cellulaires in vitro.

Big data analytics AI technology

Automatisation des services

Lorsque le service informatique est en contact avec les clients, le traitement du langage naturel peut aider à prendre des mesures en fonction des demandes formulées, et les moteurs de recommandation peuvent aider les clients à trouver des solutions satisfaisantes et des alternatives de produits.

Le choix idéal pour les charges de travail d'inférence d'IA d'entreprise

Qu'ils soient déployés uniquement en tant que CPU ou utilisés en tant qu'hôte pour les GPU exécutant de plus grands modèles, les processeurs AMD EPYC™ Série 9005 sont conçus avec les dernières technologies à normes ouvertes pour accélérer les charges de travail d'inférence d'IA d'entreprise.

Conçus pour l'inférence d'IA

Jusqu'à 192 cœurs AMD « Zen 5 » avec chemin de données 512b pour la prise en charge des instructions AVX-512 offrent un excellent parallélisme pour les charges de travail d'inférence d'IA, réduisant ainsi le besoin d'accélération des GPU.

Conçus pour les charges de travail d'IA et traditionnelles simultanées : les processeurs AMD EPYC de 5e génération offrent les performances de calcul d'entiers les plus élevées pour les charges de travail traditionnelles1. Les processeurs AMD EPYC offrent une inférence efficace sur une grande variété de charges de travail d'IA et de tailles de modèles.

Traitement et E/S rapides : augmentation de 37 % du nombre d'instructions par cycle d'horloge (IPC)2 pour les charges de travail d'IA. Mémoire DDR5 et E/S PCIe® de 5e génération pour un traitement rapide des données.

Découvrez quand utiliser des CPU pour l'inférence
Découvrez les 5 principales charges de travail d'inférence de CPU
AMD EPYC™ 9005 Series

Optimisations logicielles d'AMD pour l'inférence d'IA

Prise en charge d'infrastructures : AMD prend en charge les infrastructures d'IA les plus populaires, notamment TensorFlow, PyTorch et ONNX Runtime, pour couvrir divers cas d'utilisation tels que la classification d'images et les moteurs de recommandation.

Open source et compatibilité : les optimisations sont intégrées aux infrastructures courantes offrant une compatibilité étendue et une facilité d'utilisation des structures open source en amont. De plus, AMD travaille avec Hugging Face pour permettre à ses modèles open source de fonctionner immédiatement avec ZenDNN.

Modules complémentaires ZenDNN : ces modules complémentaires accélèrent les charges de travail d'inférence d'IA en optimisant les opérateurs, en exploitant les micro-noyaux et en mettant en œuvre un multithreading efficace sur les cœurs AMD EPYC.

Découvrez à quel point il est facile d'utiliser ZenDNN
Zoom sur l'image
AMD Software Optimizations Diagram

La sécurité des données est encore plus importante à l'ère de l'IA

Mettre en place des mesures de sécurité avancées devient d'autant plus urgent que l'utilisation de la numérisation, du cloud computing, de l'IA et d'autres technologies émergentes stimule la croissance des données. Ce besoin de sécurité accru est encore amplifié par l'importance croissante accordée aux réglementations mondiales en matière de confidentialité et les lourdes sanctions en cas de violation, ce qui souligne la valeur inégalée des données dans un contexte de risques de sécurité croissants.

Intégrée au niveau du silicium, la technologie AMD Infinity Guard offre les capacités avancées nécessaires pour mieux vous défendre contre les menaces internes et externes et assurer la sécurité de vos données3.

En savoir plus
Cyber security illustration

Modèles de charge de travail d'IA

Les serveurs basés sur les processeurs AMD EPYC™ 9005 et les instances cloud permettent de mettre en place des solutions d'IA rapides et efficaces à proximité de vos clients et de vos données.

Serveurs 2P exécutant Llama3.1-8B BF16⁴ (jetons relatifs/seconde)
AMD EPYC™ 9965 5e génération
x 1,8
AMD EPYC™ 9654 4e génération
x 1,3
Intel Xeon® Platinum® 8592+ 5e génération
x 1,0
Serveurs 2P exécutant FAISS⁵ (demandes/heure)
AMD EPYC™ 9965 5e génération
x 3,8
AMD EPYC™ 9654 4e génération
x 2,0
Intel Xeon® Platinum® 8592+ 5e génération
x 1,0
Serveurs 2P exécutant TPCx-AI à SF30⁶ (débit/min)
AMD EPYC™ 9965 5e génération
x 3,8
AMD EPYC™ 9654 4e génération
x 2,3
Intel Xeon® Platinum® 8592+ 5e génération
x 1,0
Serveurs 2P exécutant XGBoost @ SF30⁷ (exécution/heure)
AMD EPYC™ 9965 5e génération
x 3,0
AMD EPYC™ 9654 4e génération
x 2,0
Intel Xeon® Platinum® 8592+ 5e génération
x 1,0

Ressources

Présentation sur l'IA d'entreprise avec AMD EPYC

Trouvez des documents AMD et partenaires décrivant les innovations en matière d'IA et d'apprentissage automatique (ML)

Visitez la bibliothèque

Processeurs AMD EPYC série 9005

Les processeurs AMD EPYC™ 9005 améliorent la rapidité et l'efficacité de l'inférence d'IA à proximité des données d'entreprise, ce qui génère des performances transformatrices.

En savoir plus

Podcasts

Écoutez des experts des technologies d'AMD et du secteur discuter des dernières tendances concernant les serveurs, le cloud computing, l'IA, le calcul hautes performances, etc.

Visiter les archives
Notes de bas de page
  1. 9xx5-002D : comparaison SPECrate®2017_int_base basée sur les scores publiés à l'adresse suivante le 10/10/2024 : www.spec.org. 2P AMD EPYC 9965 (3000 SPECrate®2017_int_base, 384 cœurs au total, 500 W de TDP, prix de CPU de 14 813$), 6,060 SPECrate®2017_int_base/W de CPU, 0,205 SPECrate®2017_int_base/dollar de CPU, https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.html) 2P AMD EPYC 9755 (2720 SPECrate®2017_int_base, 256 cœurs au total, 500 W de TDP, prix de CPU de 12 984 $), 5,440 SPECrate®2017_int_base/W de CPU, 0,209 SPECrate®2017_int_base/dollar de CPU, https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44824.html) 2P AMD EPYC 9754 (1950 SPECrate®2017_int_base, 256 cœurs au total, 360 W de TDP, prix du CPU de 11 900 $), 5,417 SPECrate®2017_int_base/W de CPU, 0,164 SPECrate®2017_int_base/dollar de CPU, https://www.spec.org/cpu2017/results/res2023q2/cpu2017-20230522-36617.html) 2P AMD EPYC 9654 (1810 SPECrate®2017_int_base, 192 cœurs au total, 360 W de TDP, prix de CPU de 11 805 $), 5,028 SPECrate®2017_int_base/W de CPU, 0,153 SPECrate®2017_int_base/dollar de CPU, https://www.spec.org/cpu2017/results/res2024q1/cpu2017-20240129-40896.html) 2P Intel Xeon Platinum 8592+ (1130 SPECrate®2017_int_base, 128 cœurs au total, 350 W de TDP, prix de CPU de 11 600 $) 3,229 SPECrate®2017_int_base/W de CPU, 0,097 SPECrate®2017_int_base/dollar de CPU, http://spec.org/cpu2017/results/res2023q4/cpu2017-20231127-40064.html) 2P Intel Xeon 6780E (1410 SPECrate®2017_int_base, 288 cœurs au total, 330 W de TDP, prix de CPU de 11 350 $) 4,273 SPECrate®2017_int_base/W de CPU, 0,124 SPECrate®2017_int_base/dollar de CPU, https://spec.org/cpu2017/results/res2024q3/cpu2017-20240811-44406.html) SPEC®, SPEC CPU®, et SPECrate® sont des marques déposées de la Standard Performance Evaluation Corporation. Rendez-vous sur www.spec.org pour plus d'informations. TDP du CPU Intel sur https://ark.intel.com/.
  2. 9xx5-001 : basé sur les tests internes d'AMD en date du 10/09/2024, amélioration des performances de la moyenne géométrique (IPC) à fréquence fixe. - Charges de travail de serveur ML/HPC EPYC de 5e génération : gain d'IPC générationnel de 1,369x (moyenne géométrique) à l'aide d'un ensemble de 24 charges de travail sélectionnées. Il s'agit de la moyenne géométrique des charges de travail de serveur ML représentatives (moyenne géométrique) et des charges de travail de serveur HPC représentatives (moyenne géométrique). Configuration « Genoa » (tous avec NPS1) : EPYC 9654 BIOS TQZ1005D 12c12t (1c1t/CCD en 12+1), FF 3 GHz, 12x DDR5-4800 (2Rx4 64 Go), xGMI 32 Gbit/s ; Configuration « Turin » (tous avec NPS1) :   EPYC 9V45 BIOS RVOT1000F 12c12t (1c1t/CCD dans 12+1), FF 3 GHz, 12x DDR5-6000 (2Rx4 64 Go), 32 Gbit/s xGMI utilisant la détermination des performances et du gouverneur de performances sur un système d'exploitation Ubuntu® 22.04 avec un noyau 6.8.0-40-generic pour toutes les charges de travail, sauf LAMMPS, HPCG, NAMD, OpenFOAM et Gromacs qui utilisaient 24.04 avec un noyau 6.8.0-40-generic. SPEC® et SPECrate® sont des marques déposées de la Standard Performance Evaluation Corporation. Pour en savoir plus, visitez spec.org.
  3. GD-183A Les fonctionnalités d'AMD Infinity Guard varient selon les générations et/ou les séries de processeurs EPYC™. Pour être exécutées, les fonctionnalités de sécurité d'Infinity Guard doivent être activées par les OEM des serveurs, et/ou par les fournisseurs de services cloud. Demandez à votre OEM ou à votre fournisseur si ces fonctionnalités sont prises en charge. Pour en savoir plus sur Infinity Guard, rendez-vous sur https://www.amd.com/fr/products/processors/server/epyc/infinity-guard.html.
  4. 9xx5-009 : résultats du débit Llama3.1-8B basés sur les tests internes d'AMD en date du 05/09/2024. Configurations Llama3-8B : IPEX.LLM 2.4.0, NPS=2, BF16, taille de lot 4, cas d'utilisation configurations de jetons d'E/S : [Résumé = 1 024/128, Chatbot = 128/128, Traduction = 1 024/1 024, Essai = 128/1 024, Légende = 16/16].   2P AMD EPYC 9965 (384 cœurs au total), 6 instances 64 cœurs     1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), 1 DPC, PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.3 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198096812, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C, (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=2 2P AMD EPYC 9755 (256 cœurs au total), 4 instances 64 cœurs, 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), 1 DPC, PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu 22.04.3 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198096812, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=2 2P AMD EPYC 9654 (192 cœurs au total) 4 instances 48 cœurs, 1,5To 24x64 Go DDR5-4800, 1 DPC, PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 5.15.85-051585-generic (performance de débit du profil tuned-adm, ulimit -l 1198117616, ulimit -n 500000, ulimit -s 8192), BIOS RVI1008C (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=2 par rapport à 2P Xeon Platinum 8592+ (128 cœurs au total), 2 instances 64 cœurs, AMX activé, 1 To 16x64 Go DDR5-5600, 1 DPC, PCIe NetXtreme BCM5719 Gigabit Ethernet 1 Gbit/s, 3,84 To KIOXIA KCMYXRUG3T84 NVMe®, Ubuntu 22.04.4 LTS 6.5.0-35-generic (performance de débit du profil tuned-adm, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé).  Les résultats : CPU 2P EMR 64C 2P Turin 192 cœurs 2P Turin 128 cœurs 2P Genoa 96 cœurs Débit total médian moyen cumulé 99,474 193,267 182,595 138,978 Compétitif 1 1,943 1,836 1,397 NA générationnelle 1,391 1,314 1 Les résultats peuvent varier en fonction de facteurs tels que les configurations système, les versions software et les paramètres du BIOS.
  5. 9xx5-011 : résultats de débit FAISS (demandes/heures) basés sur les tests internes d'AMD en date du 05/09/2024. Configurations FAISS : ensemble de données sift1m, instances 16 cœurs, FP32, MKL 2024.2.1 2P AMD EPYC 9965 (384 cœurs au total), 24 instances 16 cœurs, 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), 1 DPC, PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198096812, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=4 2P AMD EPYC 9654 (192 cœurs au total) 12 instances 16 cœurs, 1,5 To 24x64 Go DDR5-4800, 1 DPC, 2 x 1,92 To Samsung MZQL21T9HCJR-00A07 NVMe, Ubuntu 22.04.3 LTS, BIOS 1006C (SMT=désactivé, déterminisme=puissance), NPS=4 par rapport à 2P Xeon Platinum 8592+ (128 cœurs au total), 8 instances 16 cœurs, AMX activé, 1 To 16x64 Go DDR5-5600, 1 DPC, PCIe NetXtreme BCM5719 Gigabit Ethernet 1 Gbit/s, 3,84 To KIOXIA KCMYXRUG3T84 NVMe, Ubuntu 22.04.4 LTS 6.5.0-35-generic (performance de débit du profil tuned-adm, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé) Résultats : CPU Médiane débit relatif générationnel 2P Turin 192C 64.2 3.776 1.861 2P Genoa 96C 34.5 2.029 1 2P EMR 64C 17 1 NALes résultats peuvent varier en fonction de facteurs tels que les configurations système, les versions software et les paramètres du BIOS.
  6. 9xx5-012 : résultats de débit de taille d'instance 32 cœurs multi-instances TPCxAI à SF30 basés sur les tests internes d'AMD en date du 05/09/2024 exécutant plusieurs instances de machine virtuelle. Le test de débit de l'IA global de bout en bout est dérivé du benchmark TPCx-AI et n'est donc pas comparable aux résultats publiés de TPCx-AI, car les résultats du test de débit de l'IA de bout en bout ne sont pas conformes à la spécification TPCx-AI.2P AMD EPYC 9965 (384 cœurs au total), 12 instances 32 cœurs, NPS1, 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), 1 DPC, PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198096812, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé)2P AMD EPYC 9755 (256 cœurs au total) 8 instances 32 cœurs, NPS1, 1,5 To 24x64 Go DDR5-6400, 1 DPC, PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198096812, ulimit -n 1024, ulimit -s 8192) BIOS RVOT0090F (SMT=désactivé, déterminisme=puissance, Turbo Boost = activé), 2P AMD EPYC 9654 (192 cœurs au total), 6 instances 32 cœurs, NPS1, 1,5 To 24x64 Go DDR5-4800, 1 DPC, 2 x 1,92 To Samsung MZQL21T9HCJR-00A07 NVMe, Ubuntu 22.04.3 LTS, BIOS 1006C (SMT=désactivé, déterminisme=puissance) par rapport à 2P Xeon Platinum 8592+ (128 cœurs au total), 4 instances de 32 cœurs, AMX activé, 1 To 16x64 Go DDR5-5600, 1DPC, PCIe NetXtreme BCM5719 Gigabit Ethernet 1 Gbit/s, 3,84 To KIOXIA KCMYXRUG3T84 NVMe®, Ubuntu 22.04.4 LTS 6.5.0-35-generic (performance de débit du profil tuned-adm, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé) Résultats : Résultats relatifs de la génération médiane du processeur Turin 192 cœurs, 12 Inst 6067,531 3,775 2,278 Turin 128 cœurs, 8 Inst 4091,85 2,546 1,536 Genoa 96 cœurs, 6 Inst 2663,14 1,657 1 EMR 64 cœurs, 4 Inst 1607,417 1 NA Les résultats peuvent varier en fonction de facteurs tels que les configurations système, les versions software et les paramètres du BIOS. TPC, TPC Benchmark et TPC-C sont des marques déposées du Transaction Processing Performance Council.
  7. 9xx5-040A : résultats de débit XGBoost (exécutions/heure) basés sur les tests internes d'AMD en date du 05/09/2024. Configurations XGBoost : v2.2.1, ensemble de données Higgs, instances 32 cœurs, FP32 2P AMD EPYC 9965 (384 cœurs au total), 12 instances 32 cœurs, 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 6.8.0-45-generic (performance de débit du profil tuned-adm, ulimit -l 198078840, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=1 2P AMD EPYC 9755 (256 cœurs au total), 1,5 To 24x64 Go DDR5-6400 (à 6 000 MT/s), 1 DPC, PCIe NetXtreme BCM5720 Gigabit Ethernet 1 Gbit/s, 3,5 To Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198094956, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé), NPS=1 2P AMD EPYC 9654 (192 cœurs au total), 1,5 To 24x64 Go DDR5-4800, 1 DPC, 1 DPC, NVMe Samsung MZQL21T9HCJR-00A07 2 x 1,92 To, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (performance de débit du profil tuned-adm, ulimit -l 198120988, ulimit -n 1024, ulimit -s 8192), BIOS TTI100BA (SMT=off, Determinism=Power), NPS=1 par rapport à 2P Xeon Platinum 8592+ (128 cœurs au total), AMX activé, 1 To 16x64 Go DDR5-5600, 1 DPC, PCIe NetXtreme BCM5719 Gigabit Ethernet 1 Gbit/s, 3,84 To KIOXIA KCMYXRUG3T84 NVMe®, Ubuntu 22.04.4 LTS 6.5.0-35-generic (performance de débit du profil tuned-adm, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT=désactivé, déterminisme=puissance, Turbo Boost=activé) Résultats : CPU Exécution 1 Exécution 2 Exécution 3 Médiane débit relatif générationnel 2P Turin 192C, NPS1 1565,217 1537,367 1553,957 1553,957 3 2,41 2P Turin 128C, NPS1 1103,448 1138,34 1111,969 1111,969 2,147 1,725 2P Genoa 96C, NPS1 662,577 644,776 640,95 644,776 1,245 1 2P EMR 64C 517,986 421,053 553,846 517,986 1 NA Les résultats peuvent varier en fonction de facteurs tels que les configurations système, les versions software et les paramètres du BIOS.