随着人工智能从云计算越来越多地转移到设备上,人们究竟应该如何知道这样和这样的新笔记本电脑是否会比现成的笔记本电脑、台式电脑或全内电脑运行得更快?知道可能意味着等待几秒钟的图像生成和几分钟的区别--正如他们所说,时间就是金钱。
MLPerf Client支持一些与AI相关的硬件标准 , 为了更容易地将商店与针对"客户系统"(即消费者个人电脑)的业绩基准进行比较。
今天MLPerf Client宣布成立一个新的工作组----MLPAF客户机,其目标是为台式计算机、膝上型计算机和工作站运行Windows、Linux和其他操作系统建立AI基准。麻省公共信息网承诺,基准将是"场景驱动的",侧重于实际的终端用户使用案例,并"基于社区的反馈。"
为此，MLPerf Client的第一个基准测试将专注于文本生成模型，特别是Meta的Llama 2，MLCommons执行董事David Kanter指出，该模型已被纳入MLCommons的其他数据中心硬件基准测试套件中。Meta还与高通公司和微软公司在Llama 2上进行了大量工作，以优化适用于Windows的Llama，这对运行Windows的设备大有裨益。
坎特在一份新闻稿中表示：“将MLPerf引入客户端系统的时机已经成熟，因为人工智能正成为世界各地计算的预期组成部分。我们期待着与我们的成员合作，将MLPerf的卓越性能引入客户系统，并为更广泛的社区带来新的功能。”
mlperf客户工作组的成员包括amd、ARM、华士、戴尔、英特尔、联想、微软、英伟达和高通,但不包括苹果。
苹果也不是微软公共图书馆的成员,而一位微软工程总监(YAnisMinadakis)也是该公司客户群的共同主席--这一点并不令人惊讶。然而,令人失望的结果是,不管AI基准是什么,Mlperf客户机所想到的不会在苹果的设备中进行测试--至少在接近ISH的术语中不会。
尽管如此,这位作家还是很好奇地想知道mlperf客户机中出现了什么样的基准和工具,不管它支持还是不支持。假设热奈会留在这里--而且没有迹象表明泡沫会很快破灭--我不会惊讶地看到这些类型的度量在设备购买决策中扮演越来越重要的角色。
在最好的情况下,mlperf客户端基准类似于在线的许多pc构建比较工具,这表明了人们可以从特定的机器中期待到什么样的AI性能。考虑到高通和ARM的参与(两者都在移动设备生态系统中投入巨资),或许未来它们会扩大到包括手机和平板电脑。这显然是早期的--但这里有希望。
