NVIDIA再次打破MLPerf基准测试的性能记录

点击

上方“IEEE电气电子工程师”即可订阅公众号。网罗全球科技前沿动态，为科研创业打开脑洞。

由人工智能专家和计算机公司组成的联盟MLPerf发布了一组新的机器学习记录。这些记录是在一系列衡量推理速度的基准上设定的：一个已经训练过的神经网络能多快地用新数据完成任务。手机和平板电脑的基准测试首次受到质疑。据MLPerf母公司执行董事David Kanter透露，一款可下载的应用程序正在研制中，它将允许任何人测试自己智能手机或平板电脑的人工智能能力。

MLPerf的目标是提供一个公平和直接的方法来比较人工智能系统。包括戴尔、英特尔和英伟达在内的23家机构共提交了1200份调查结果，这些结果经过了同行评审，并接受了随机的第三方审计。（谷歌在这一轮明显缺席。）正如去年夏天发布的..人工智能的MLPerf记录一样，Nvidia是主导力量，在数据中心和边缘计算系统的所有六个类别中都超过了竞争对手。包括思科（Cisco）和富士通（Fujitsu）等合作伙伴提交的报告，该公司的数据显示，共有1029份报告使用了Nvidia芯片，占edge和数据中心类别总数的85%。

“Nvidia在每项测试中都表现出色，”Nvidia加速计算产品管理高级总监Paresh Kharaya说。Nvidia的A100 GPU为其在数据中心领域的胜利提供了动力，而其Xavier则是GPU制造商在边缘计算领域取得胜利的幕后推手。根据Kharaya的说法，在新的MLPerf基准之一深度学习推荐模型（Deep Learning Recommendation Mode，DLRM）中，一个DGX A100系统相当于1000个基于CPU的服务器。

今年引入了四个新的推断基准，加上上一轮遗留下来的两个：

• BERT，是一个由Google贡献的自然语言处理人工智能。给出一个问题输入，BERT预测一个合适的答案。

• DLRM，是一个经过训练优化点击率的推荐系统。它用于推荐网上购物的商品，并对搜索结果和社交媒体内容进行排名。Facebook是DLRM代码的主要贡献者。

• 3D U-Net，在医学成像系统中被用来判断MRI扫描中哪些3D体素是肿瘤的一部分，哪些是健康组织。它是根据脑瘤数据集训练的。

• RNN-T，是一种用于递归神经网络传感器的语音识别模型。给定一个语音输入序列，它预测相应的文本。

除了这些新指标之外，MLPerf还为移动设备制定了第一套基准测试，这些基准用于测试联发科（MediaTek）、高通（Qualcomm）和三星（Samsung）的智能手机和平板电脑..，以及英特尔（Intel）的笔记本电脑。新的基准包括：

• MobileNetEdgeTPU，一个图像分类基准，被认为是计算机视觉中最普遍的任务。它代表了一个照片应用程序如何能够识别出你或你朋友的脸。

• SSD-MobileNetV2，用于MobileNetV2的单次多盒检测，经过训练可在300x300分辨率的输入帧中检测80种不同的对象类别。在视频中实时跟踪和识别物体。

• DeepLabv3+MobileNetV2，这是用来理解虚拟现实和导航等场景的，它在计算摄影应用程序中扮演着重要角色。

• MobileBERT，是自然语言处理BERT模型的一个更大的移动优化变体，它针对问题回答进行了微调。给定一个问题输入，MobileBERT生成一个答案。

Kanter称，这些基准测试是在一个专门构建的应用程序上运行的，每个人都应该在几个月内就可以使用。

近日公布的结果被称为0.7版本，目前该组织仍在加大力度完善内容。1.0版本可能在2021年完成。