AI 正在离开云端：向端侧计算转移的数据报告 (2024–2029)

过去十五年来，计算一直朝着一个方向发展——向云端迁移。而现在，这一趋势正在发生逆转：越来越多的 AI 推理不再在远程服务器上运行，而是直接在用户设备（笔记本电脑、手机、浏览器）上本地执行。本文将客观分析这一转变的真实性：探讨各大权威分析机构的预测，以及背后的技术和经济原因。所有数据均附有原始出处链接。

什么是“端侧 AI”

为了便于具体讨论，我们先来厘清几个概念：

• On-device (edge) inference（端侧/边缘推理）——模型在设备本身运行，数据不发送到外部服务器。
• NPU (Neural Processing Unit)——处理器中的专用单元，可在低功耗下加速 AI 计算。正是 NPU 在消费级硬件中的普及，才让本地 AI 变得实用。
• SLM (Small Language Model，小语言模型)——参数量在数十亿级别的紧凑型语言模型，无需访问数据中心即可在手机或笔记本电脑上运行。

“AI 正在离开云端”并不意味着完全放弃云，而是重心的转移：越来越多的任务在本地解决，而云端则留给更复杂的重度场景。

数据已向网络边缘转移

最直观的指标是数据的产生和处理地点。早在 2019 年，在传统集中式数据中心或云端之外处理的企业数据还不足 10%。而根据 Gartner 的预测，到 2025 年，这一比例将达到 75%。

来源：Gartner — What Edge Computing Means for Infrastructure and Operations Leaders。2019 年与 2025 年预测的对比。

这是基础设施层面的大背景：数据在物理上正向源头（即用户及其设备）靠拢。AI 推理遵循与任何数据处理相同的逻辑：在数据产生的地方进行计算，比通过网络传输数据更便宜、更快速。

硬件：AI-PC 与 NPU 正在成为标准

最主要的实际驱动力是 NPU 在消费级硬件中的大规模普及。所谓的 AI-PC（配备专用神经网络加速器的电脑）在两三年内正从高端小众市场转变为标准配置。

根据 IDC 的数据，AI-PC 将占 2025 年全球 PC 出货量的约 40%，并在 2027 年接近 60%。Counterpoint Research 预测，到 2026 年，配备 NPU 的笔记本电脑出货量就将超过全球总量的一半。

来源：IDC — Worldwide PC Forecast、Counterpoint Research — AI PCs to surpass half of global shipments in 2026、Computerworld。

出货量代表着增量。而保有量（设备装机量）则更为直观：根据 IDC 的评估，AI-PC 在活跃电脑保有量中的占比将从 2023 年的 5% 增长到 2028 年的 94%。几年后，“普通”电脑默认就将具备在本地运行 AI 的能力。

来源：IDC。2023 年装机量评估及 2028 年预测。

处理器与智能手机：默认走向本地 AI

在芯片层面，这一趋势更加明显。Gartner 预测，到 2029 年，超过 99% 的 PC 微处理器都将内置端侧 AI 功能，而 2024 年这一比例仅为 15% 左右。也就是说，配备神经网络加速器不再是一个可选项，而是成为处理器基础架构的一部分。

来源：Gartner — Top Predictions for IT Organizations and Users。2024 年与 2029 年预测。

智能手机的发展方向亦是如此。Gartner 预计，到 2027 年，紧凑型模型将允许直接在手机上运行先进的生成式 AI，而无需连接云端。这不仅仅是预测，各大主流平台已经开始交付此类产品：

当为数十亿人构建平台的这三家巨头同时将计算转移到设备端时，这就不再是一个小众想法，而是成为了整个行业的发展方向。

为什么这一转变具有可持续性

这一趋势背后有几种独立力量的推动，而且没有一种力量看起来是暂时的：

1. 隐私成为刚需。 本地推理意味着数据不会离开设备。对于医疗、金融、法律和个人笔记而言，这解决的是法律合规和声誉风险问题，而不仅仅是增加便利性。Google 明确将 Gemini Nano 称为最安全的隐私方案，正是因为数据不会发送到服务器。
2. 推理的经济学。 为他人 GPU 上的每次请求付费很难实现规模化经济。而用户已经购买的设备在进行计算时，单次请求的边际成本为零。
3. 延迟与离线。 本地模型响应迅速，且无需网络即可工作，这对于实时助手至关重要。
4. 硬件就绪。 每一台新笔记本电脑和手机中内置的 NPU 扫清了主要技术障碍：就在五年前，在本地运行模型还非常昂贵且缓慢。

这将带来什么改变

向端侧 AI 的转变不仅改变了模型的计算位置，还改变了围绕它们构建的产品架构。如果数据不必上传 to 云端，那么存储所有用户数据的统一集中式数据库就不再是必选项。而这样的数据库总是伴随着双重风险：单点故障和单点准入（面临黑客攻击、泄露或外部调取数据的风险）。转移到设备端的计算越多，将敏感数据集中收集在一处的理由就越少。

对于用户和企业来说，这意味着一个简单的事实：隐私将越来越多地由技术架构本身来保障，而不是靠隐私政策中的口头承诺。未来的赢家将是那些专为“AI 伴随用户左右，而非存在于他人服务器上”的世界而设计的产品。

---

信息透明：本文由 maxOS 团队撰写。我们致力于开发支持本地数据处理的会议工具，因此这一话题与我们息息相关。文章中的数据均来自上述独立来源，我们已尽力确保其准确无误。相关阅读：您的声音流向了何处 以及 我们为什么要为改进本地模型付费。