2024 年对于消费电子产品中的设备端人工智能来说是重要的一年。微软和苹果都在各自的操作系统上做出了调整，微软首次推出了针对人工智能笔记本电脑的“Copilot+ PC”品牌，而苹果则发布了 Apple Intelligence。
这些早期的例子提供了好坏参半的结果。某些功能（例如实时翻译和设备上的语音转文本）可能很有用。其他的，比如微软的Windows Recall，还没有证明自己。
所有这些对人工智能的炒作对新的一年都有重要影响。 2025 年看起来将成为主流开发者尝试将设备端 AI 添加到 Windows 应用程序中的一年，这意味着您在购买笔记本电脑之前需要更加密切地关注现代 Windows 笔记本电脑的 AI 性能。新的。
我采访了两位人工智能研究和测试领域的专家，探究他们的大脑，了解 Windows 设备上的人工智能在 2025 年将如何发展。
NPU 即将迎来巨大收益如果您对 Windows 笔记本电脑的 AI 性能感到好奇，您可能最终会比较每个笔记本电脑型号所承诺的“TOPS”。 TOPS（“每秒万亿次运算”）是 NPU 为设备上的 AI 任务执行矩阵乘法的能力的衡量标准。 （详细了解 NPU 是什么以及它为何对 AI 如此重要。）
2024 年，Windows 笔记本电脑的 TOPS 性能大幅提升。为了获得微软“Copilot PC+”品牌的资格，Windows 笔记本电脑必须具有至少 40 TOPS 的 NPU 性能。作为参考，高通的首款 Copilot+ PC 的性能约为 45 TOPS，这是英特尔“Meteor Lake”Core Ultra 7 165H 的四倍，后者的 NPU 性能仅为 11 TOPS。
三星 Copilot+ 笔记本电脑上的 Windows 召回。Cambrian AI Research 创始人兼首席分析师 Karl Freund 表示：“我认为高通确实唤醒了所有人。”弗罗因德指出，AMD 和英特尔很快就推出了自己的芯片做出了回应，也带来了类似的提升。
到 2024 年底，寻找高端 Windows 笔记本电脑（例如 Microsoft Surface、华硕 ProArt 或戴尔 XPS）的消费者预计 NPU 性能将比市面上同类高端笔记本电脑提高大约三到四倍。 2023 年底。这是一个巨大的提升。但这种趋势会持续到 2025 年吗？
性能测试实验室 Signal65 总裁 Ryan Shrout 认为可以。 “如果我们再次看到两倍，我不会感到惊讶，如果再次看到三倍，我也不会感到惊讶。”然而，他预计这些最终收益将在明年底得到更大的权重。 “我的猜测是，到 2025 年末，甚至可能到 2026 年，我们就会看到最显着的 NPU 改进。”
TOPS 可能无法长期保持领先地位设备上的人工智能性能可能会显着提高两到三倍。然而，Freund 和 Shrout 警告说，最好不要过于相信芯片制造商引用的 TOPS 性能。
“TOPS 确实代表‘严重过度使用的性能统计’，”Freund 说。 “它没有太大的价值。”
Shrout 表示同意，并将 TOPS 与 AMD 和 Nvidia 在营销 GPU 时经常引用的 TFLOPS 数字进行了比较。这些数字表明 GPU 的最大可能计算速度，但令人惊讶的是，它们对实际性能的了解很少。
目前，现实世界的 AI 性能有点不确定，部分原因是 Windows 尚未整合单个 API 来利用 NPU 的 AI 功能。对于内部缺少高通芯片的 Copilot+ 笔记本电脑的用户来说，这是一个问题。
Da Vinci Resolve 在 Qualcomm Snapdragon X Elite 笔记本电脑上运行。尽管 AMD 和英特尔都有符合 Copilot+ 品牌的芯片，但高通迄今为止仍享有优先地位。高通机器是第一批获得 Windows Recall 和多个流行应用程序支持的机器，例如 Blender 和 Affinity Photo，这些应用程序最近宣布只能在高通 Snapdragon X 硬件上运行。
然而，随着微软加大对其低级机器学习 API (DirectML) 和 Windows Copilot 运行时的支持，这种情况应该会在 2025 年发生改变，其中包括多个特定于任务的 AI API（其中一些尚未发布）。目前来看，Copilot+ PC 显然还有很多不足之处，并且未来还有很大的增长空间。
“我认为微软将在 2025 年解决这个问题，”Shrout 说。 “一旦应用程序开发人员使用 DirectML，就像他们使用 DirectX 一样，问题就会得到解决。而且我认为这不会长期成为一个问题。” Shrout 将其与早期的 PC 3D 进行了比较，最初出现了相互竞争的 API，但最终围绕领先者进行了整合，其中 Microsoft DirectX 成为最受欢迎的选择。
证明 Windows AI 的案例更好的 NPU 和统一的 API 使 Windows 应用程序开发人员能够更轻松地实际使用 NPU 的全部性能，这都是重要的进步，但它们并不一定保证设备上的 AI 会变得普遍。
这是因为开发人员仍然可以选择转向 OpenAI 和 Anthropic 等公司，这些公司将他们的人工智能模型和服务提供给任何可以访问互联网的设备。他们的人工智能模型仍然比设备上的人工智能模型更强大，能够做更多事情并更快地生成结果。
然而，这些托管在云端的人工智能模型有一个主要缺点，到 2025 年，价格将变得更加重要。
“事实上，我们可以让小型语言模型在后台连续运行在 NPU 上来监控正在发生的事情，这是云无法做到的，或者至少从基础设施的角度来看会更加昂贵，”Shrout 说。
CKA / Shutterstock
OpenAI 最近发布的 ChatGPT Pro（针对高级用户的新高级版本）似乎充分说明了这一点。 ChatGPT Pro 可以无限制地访问该公司的新 o1 模型，并优先访问 Sora 视频生成器，但其价格为每月 200 美元。应用程序开发人员为向用户提供 o1 所支付的每个代币价格也同样高昂。
另一方面，使用 Windows 笔记本电脑内置 NPU 的用户和开发人员基本上可以随时免费使用它。可以说，这将是通向设备端人工智能之路上的最后一块砖。开发人员和用户将拥有尽可能依赖 Windows 笔记本电脑的 NPU 的工具和动力来削减成本。
向设备端人工智能的转变将以多快的速度发生，以及它将在多大程度上通过 Windows 软件生态系统扩散，还有待观察，但 2025 年很可能将是一个巨大的转折点。
“我认为高通五年前说的人工智能将移动到设备上是正确的。起初，我很怀疑。但现在我已经成为一个信徒了，”弗罗因德说。
