GPU NVIDIA H100 Tensor Core

Projections de performance sujettes à modification. Débit 3D FFT (4K^3) | Cluster A100 : réseau HDR IB | Cluster H100 : système de commutation NVLink, NDR IB | Séquençage génomique (Smith-Waterman) | 1x A100 | 1x H100

La plateforme de datacenter NVIDIA offre des gains de performance constants qui s'étendent bien au-delà de la loi de Moore. Et les nouvelles capacités d'IA révolutionnaires du GPU H100 amplifient la puissance du HPC associé à l'IA pour accélérer les découvertes des scientifiques et des chercheurs qui s'efforcent de résoudre les problèmes les plus importants au monde.

Le GPU H100 triple le nombre d’opérations en virgule flottante par seconde (FLOPs) avec les cœurs Tensor à double précision, fournissant ainsi aux applications HPC 60 TFlops de calcul FP64. Les applications HPC avec IA intégrée peuvent également exploiter le niveau de précision TF32 du GPU H100 pour atteindre un pétaflop de débit dans les opérations de multiplication matricielle à simple précision, sans le moindre changement de code.

Le GPU H100 intègre en outre de nouvelles instructions DPX qui offrent des performances 7 fois plus élevées qu'avec des GPU A100 et 40 fois plus élevées qu'avec des CPU sur les algorithmes de programmation dynamique tels que Smith-Waterman pour l'alignement des séquences d'ADN et l'alignement des protéines dans la prédiction des structures protéiques.

Comparaison des instructions DPX sur une plateforme NVIDIA HGX™ de 4 GPU H100 et sur une plateforme IceLake 32 cœurs à double socket.

Les responsables informatiques cherchent à optimiser l'utilisation (de pointe et moyenne) des ressources de calcul du datacenter. Pour ce faire, ils ont le plus souvent recours à une technique de reconfiguration dynamique pour adapter les ressources de calcul aux charges de travail en cours.

Le GPU H100 avec MIG permet aux responsables informatiques de standardiser leur infrastructure accélérée par GPU tout en disposant de suffisamment de flexibilité pour affecter les ressources GPU avec une précision accrue, de manière à offrir aux développeurs des capacités de calcul adéquates et à optimiser l'utilisation de toutes leurs ressources GPU.

Le GPU Hopper Tensor Core va équiper l’architecture NVIDIA Grace Hopper CPU+GPU, spécifiquement conçue pour accélérer les calculs mobilisant plusieurs téraoctets de données et fournissant également des performances 10 fois plus élevées sur les grands modèles d’IA et le HPC. Le CPU NVIDIA Grace tire parti de la flexibilité de l’architecture Arm® pour proposer une architecture de processeur et de serveur conçue dès le début pour accélérer le calcul informatique. Le GPU Hopper est associé au CPU Grace à l'aide de la technologie d’interconnexion chip-to-chip de NVIDIA qui fournit une bande passante totale de 900 Go/s, sept fois plus rapide que la norme PCIe Gen5. Cette conception novatrice fournit au GPU une bande passante globale jusqu’à 30 fois plus élevée par rapport aux serveurs les plus rapides de l’industrie ainsi que des performances de calcul jusqu’à 10 fois supérieures dans les applications faisant appel à plusieurs téraoctets de données.