机器学习行业使用标准标准进行自我测量的努力已经达到了一个里程碑。原谅混合的比喻，但这实际上就是今天发布的MLPerf Inference v1.0发生的事情。1,994个AI系统使用一套在一组标准条件下测量的基准神经网络进行了较量，以展示其神经网络可以多快地处理新数据中国机械网okmao.com。另外，MLPerf测试了能效基准，其中约有850名参赛者。
本次大赛是第一次跟随一组试运行，其中AI财团MLPerf及其上级组织MLCommons制定出最好的衡量标准。但是，第一个正式版本的大赢家与热身赛中的英伟达相同。
条目是软件和系统的组合，范围从Raspberry Pis到超级计算机不等。它们由AMD，Arm，Centaur Technology，Edgecortix，Intel，Nvidia，Qualcomm和Xilininx的处理器和加速器芯片提供支持。参赛作品来自17个组织，其中包括阿里巴巴，半人马座，戴尔富士通，技嘉，慧与，浪潮，Krai，联想，Moblint，Neuchips和Supermicro。
尽管存在多样性，但大多数系统还是使用Nvidia GPU来加速其AI功能。提供了其他一些AI加速器，特别是高通公司的AI 100和Edgecortix的DNA。但Edgecortix是唯一一个很多，很多 AI加速器初创跳入水中。而Intel选择炫耀它的CPU如何做到从US $ 2十亿收购AI的硬件启动时提供高达东西，而不是哈瓦那。
在详细了解谁的运行速度之前，您需要了解这些基准的工作原理。[如果您想跳过背景，请单击此处。] MLPerf完全不同于著名的超级计算机优优产品Top500列表，该列表中的单个值可以告诉您您需要了解的大多数信息。
该财团认为，机器学习的需求过于多样化，无法归结为每瓦特级运算（tera-operations）之类的东西，这是AI加速器研究中经常引用的指标。
首先，在六个神经网络上对系统进行判断。但是，参赛者不必全部参加这六项比赛。
BERT，代表《变形金刚》的双向编码器表示法，是Google贡献的一种自然语言处理AI。给定问题输入后，BERT会预测合适的答案。
DLRM（用于深度学习推荐模型）是一种推荐器系统，经过培训可以优化点击率。它用于推荐用于在线购物的商品，并对搜索结果和社交媒体内容进行排名。
3D U-Net用于医学成像系统，以判断MRI扫描中哪些3D体素是肿瘤的一部分，哪些是健康组织。在脑肿瘤数据集上进行了训练。
递归神经网络换能器的RNN-T是一种语音识别模型。给定一系列语音输入，它将预测相应的文本。
ResNet是图像分类算法的祖父。本轮使用了ResNet-50 1.5版。
用于Single Shot Detector的SSD可以在图像中发现多个物体。无人驾驶汽车会用这种东西来查找其他汽车一样的重要物品。可以使用MobileNet版本1或ResNet-34完成此操作，具体取决于系统规模。
竞争对手被分为旨在在数据中心中运行的系统和旨在在“边缘”（在商店中，嵌入在安全摄像机中）运行的系统。
在两个条件下对数据中心进入者进行了测试。首先是一种称为“脱机”的情况，其中所有数据都在单个数据库中可用，因此系统可以将其尽可能快地悬停起来。第二个更紧密地模拟了数据中心服务器的真实生活，在该环境中，数据以突发方式到达，并且系统必须能够足够快速，准确地完成其工作，才能处理下一个突发。
边缘进入者也解决了离线情况。但是他们还必须进行测试，在测试中要向它们提供单条数据流，例如说一次对话以进行语言处理，并且可能需要使用多个摄像头来应对多流情况，例如无人驾驶汽车。
知道了吗？不？好吧，Nvidia在这张方便的幻灯片中总结了一下：
最后，通过测量墙上插头的功耗来确定效率基准，并在10分钟内取平均值，以消除高点，处理器缩放其电压和频率所引起的低谷和低谷。