我们负责一台运行高通 ARM 芯片 Snapdragon X Elite 的 PC。我们的测试重点关注人工智能的使用,虽然在处理速度方面有真正的优势,但并不要求精度。高通仍然认为这种类型的使用对于减轻云的负担是有用的。
高通多年来一直在准备其个人电脑革命。该公司以其统治智能手机领域的 Snapdragon 芯片而闻名,多年来一直致力于开发专用于 PC 的新 CPU 架构,充分利用来自初创公司 Nuvia 的 Rachat。
2023 年 10 月,在 Snapdragon 峰会上,高通终于公布了其工作成果:第一个使用这种新架构的芯片是 Snapdragon X Elite。在伦敦的演示中,我们终于能够快速尝试一些与人工智能相关的用途。
所谓的“设备上”人工智能有很大的优点,但也有很多缺点
如果根据对芯片进行的第一个基准测试高通,与竞争对手不相上下, 直到仍然可以与苹果的M3竞争,我们对它的AI处理能力还一无所知。我们能够在由高通优化并运行 Windows 11 的机器上测试两种用途。请注意,这些是试用电脑,因此我们不是在销售产品,而是在演示。
要求在 PC 上进行两项练习,均直接在设备上进行且不使用云:
- 使用 Open AI 的 Whisper 响应书面请求;
- 从 Meta 的 Llama 2 创建图像。
首先观察,PC 对请求的响应非常快。如果您已经使用过文本或图像生成人工智能,尽管它们可能非常快,但它们通常需要大量的等待时间来响应我们的请求。我们观察到生成图像的处理时间有时令人印象深刻,约为一秒。
话虽如此,结果并不总是很有说服力。事实上,所使用的模型是为了不依赖云而专门化的,远不如我们现在习惯的模型强大和能力强。例如,我们询问有关购买智能手机的建议,答案可以说很简洁。然后我们请他论证他的观点聊天机器人不明白并向我们重复了同样的答案。
同样,我们要求他为我们写一篇有关 Galaxy S24 的文章,令人惊讶的是,他将三星最新的智能手机与笔记本电脑混淆了。
在图像方面,结果更有说服力,因为聊天机器人似乎已经理解了我们的请求。话虽这么说,渲染的质量与我们习惯的 Dall-E 和其他中途旅程的质量相差甚远。
底线:ARM 及其许可证
Snapdragon 的核心高通面临的挑战是最终提供能够与共享笔记本电脑 CPU 和 GPU 市场的英特尔、AMD 和 Nvidia 竞争的基于 ARM 的 PC。
独创性在于,Snapdragon X Elite或多或少类似于SoC(智能手机芯片),因此集成了NPU(专门用于AI处理的处理器)。它比 Snapdragon 8 Gen 3 更强大,但却是高通智能手机上功能最强大的芯片。据高通称,Snapdragon
AI的价值直接在设备上计算
为什么这很重要?甚至最后银河 S24 Ultra三星迄今为止最强大的智能手机在使用任何 Galaxy AI 功能时都需要一点处理时间。这部分归因于芯片的处理时间,也归因于云的使用。因此,强大的 NPU 不仅可以节省时间,而且可以减少对云的依赖。
目前,为了吸引客户,三星、谷歌或 OpenAI 等公司不对基于云的人工智能功能收取费用,但仅仅因为它们对用户免费并不意味着它们不会向企业收取任何费用。恰恰相反。公众越习惯使用人工智能,这种成本就越大。“高效的 NPU 将减轻基于云的人工智能的大量计算工作量””,高通欧洲公司高级技术总监 George Tsirtsis 解释道。“云将生成式人工智能用于所有用途最终将让每个人都感到疲惫不堪”他恳求,以证明他的技术的兴趣。
本文是高通组织的伦敦新闻发布会的一部分。