虽然 NVIDIA 在 GTC 大会公布全新一代加速器 NVIDIA H100 ，性能声称比起目前 NVIDIA A100 有飞跃性的提升，但这不代表 NVIDIA 推出新硬体后就不再服务旧世代架构的用户， NVIDIA 今日公布全新的 MLPerf v2.0 推论性能结果，借助在软体不断的革新，相较去年公布的结果，使 NVIDIA A100 的效能提升达 50% ；此外也随着新一代嵌入式超算平台 Jetson AGX Orin 的问世， Jetson AGX Orin 借助全新硬体架构夺下边际运算系统的效能王者头衔。

▲借助软体持续精进， NVIDIA A100 相较去年表现最高提升达 50%

MLPerf 是当前 AI 产业龙头共同提倡的公正 AI 效能评测基准，借助多项业界主流的 AI 工作负载与情境作为性能评估基准，借此得到能够量化的效能解果，除了 AI 超算系统评测外，亦针对边际运算系统进行测试，而 NVIDIA 与合作伙伴的系统也屡屡在此系列评测结果拿下优异的成绩，其中最惊人的莫过于 2020 年所发表的 NVIDIA A100 加速器相较去年公布的结果仍有最高 50% 的效能提升，其中的关键在于 NVIDIA 与伙伴持续针对软体调整，也显见 AI 技术是需要软硬体相辅相成才能达到最佳结果，纵使面对高通 Qualcomm AI 100 加速器也显见性能表现的优势，不过在能耗效能比比较则互有高低。

▲ NVIDIA A100 所具备的 MIG 技术能使单一 GPU 同时执行达 7 个实例

此外， NVIDIA A100 具备的 MIG 技术能使系统具备更高的效益，透过 MIG 技术，能在单一 A100 执行 7 个 AI 实例，如此一来能使硬体更有效的发挥，并使系统在单一时间进行更多元的应用。

Allbet代理（www.aLLbetgame.us）是欧博集团的官方网站。欧博官网开放Allbet注册、Allbe代理、Allbet电脑客户端、Allbet手机版下载等业务。

▲ Jetson AGX Orin 具备出色的单晶片性能

▲ Jetson Orin 对比 Xavier 提升幅度相当大

▲比起高通解决方案， Jetson AGX Orin 在边际运算表现领先

▲比起竞争对手，具 NVIDIA 解决方案的边际 AI 伺服器效能更为出色

除了资料中心外， NVIDIA Jetson AGX Orin 与 NVIDIA A100 PCie 亦在边际运算展现压倒性的性能表现，以边际单晶片效能远高于基于高通 Snapdragon 865 搭配 Cloud AI 100 DM.2 的高通方案，以边际 AI 伺服器无论是 NVIDIA A30 或是 NVIDIA A100 PCIe 也展现持续领先的性能，更遑论高通 Qualcomm AI 100 解决方案无法执行部分的测试项目，在主流 AI 应用支援的广度 NVIDIA 的各式解决方案也仍有显着的领先优势。