Nvidia possui aceleradores para servidores e data centers como o H100 que tem até uma versão com memória HBM2e. Essas placas são apoiadas por uma grande empresa e software NVIDIA para oferecer excelente desempenho. Mas esse desempenho agora recebeu a melhora de até 54% graças ao otimizações que a equipe da NVIDIA fez nos últimos 6 meses, de acordo com os dados MLPerf 3.0 lançados recentemente pela empresa.
Esses números mostram como a NVIDIA H100 é capaz de obter melhores resultados de entre 7% e até 54% em cargas de trabalho específicas para as quais esses cartões são projetados, entre eles encontramos:
Classificação de imagens com ResNet
Processamento de linguagem natural com BERT grande
Reconhecimento de fala com RNN-T
Imagens médicas com 3D U-Net
Detecção de objetos com RetinaNet
Recomendação com DLRM.
Desta forma, não só supera o NVIDIA 100 anterior com quase 4,5 vezes o desempenho, mas também com esses números fica acima de outras soluções Intel ou Qualcomm. Embora também deva ser mencionado que esses dados MLPerf eles não refletem as otimizações feitas pelo restante dos concorrentes que, como podemos ver com este H100, pode aumentar consideravelmente o desempenho.
