NVIDIA 已經開始在基準測試中推廣 ARM 架構。一臺採用 ARM 架構配備了 A100 GPU 的伺服器在效能上接近於 x86 CPU ，不過 x86 仍然具備更高的峰值效能。不過 ARM 在低功耗/高效率方面超過 x86。
伺服器是高效能計算的絕對前沿，因此這是 x86 通常統治的領域，儘管 NVIDIA 很想改變這種說法。我們看到，基於ARM 的 A100 伺服器實際上設法在小眾的 3d-Unet 工作負載中擊敗了 x86，而更常見的如 ResNet 50 仍然由 x86 主導。
ARM 公司 HPC 和工具的高階主管 David Lecomber 表示：“ARM 作為 MLCommons 的創始成員，致力於建立標準和基準的過程，以更好地應對挑戰並激發加速計算行業的創新。最新的推斷結果表明，由基於 ARM 的 CPU 和 NVIDIA GPU 驅動的 ARM 系統已經準備好在資料中心處理廣泛的 AI 工作負載”。
NVIDIA 在指出 A100 GPU 在 MLPERF 基準測試中比 CPU 快 104 倍。NVIDIA 表示：“推理是指計算機執行人工智慧軟體識別物體或進行預測時的情況。這是一個使用深度學習模型來過濾資料的過程，找到人類無法捕捉的結果。MLPerf的推理基準是基於當今最流行的人工智慧工作負載和場景，涵蓋計算機視覺、醫學成像、自然語言處理、推薦系統、強化學習等”。
從主流的影象分類 ResNet-50 基準到自然語言處理都進行了測試，A100 GPU 在所有的測試中都取得了最高的地位。