2024年，端侧AI迎来关键拐点，在自研芯片与软件的深度结合，正加速端侧AI的快速发展。 

随着人工智能技术的飞速发展，端侧AI正成为下一波技术革新的核心。

所谓端侧AI，指的是在本地设备（如智能手机、智能手表等）上运行的AI技术，不依赖云端计算资源，能够在用户设备本地完成复杂的推理和决策。这种技术有助于提升用户体验、降低延迟，并在隐私保护方面具备显著优势。 

根据此前预告，苹果公司将于下周一10月28日（北京时间10月29日凌晨）正式上线iOS 18.1，带来备受期待的Apple Intelligence功能 ，虽然首批登录国家仅有美国，而中文版苹果AI功能最快也要等到2025年。 

10月23日，苹果CEO蒂姆·库克在对于Apple Intelligence何时入华时回应称，“我们正在努力推进，这背后有一个非常具体的监管流程，我们需要走完这个流程，也希望尽快将它带给中国消费者。” 

尽管Apple Intelligence的姗姗来迟，并没有打消行业对于端侧大模型的信心，国内多家终端企业，如小米、OPPO、vivo等企业，纷纷宣布在手机终端上，部署端侧大模型的计划。 

这也让2024年，毫无疑问地成为了“端侧AI大年”。

随着，用户对AI功能的需求与日俱增。随着智能手机功能日益复杂，用户希望设备能更加智能化，能在短时间内处理大量任务，同时由于这些终端设备每天都要处理并存储大量个人信息，因此隐私保护至关重要。 

端侧AI的实时性正好满足了这一需求，通过在本地设备上进行运算，端侧AI可以减少延迟并带来更顺畅的用户体验，同时实现隐私保护的需求。 

正如同大模型之家在《锐评苹果Apple Intelligence：一点惊喜、一点疑惑、一点遗憾》中所提到：AI大模型的训练与推理，都需要大量数据的浇灌，而手机则作为与人们生活关系最为密切的终端设备之一，存储着大量的用户数据，因此，树立用户的隐私安全屏障，保护好用户的隐私，是AI能力推广的必经之路。并指出之所以苹果能够将大模型能力融入系统底层，其中一个重要的原因在于苹果从一定程度上解决了人工智能大模型的数据隐私问题。

以最新发布的iPhone 16为例，苹果将AI模型深度融合到各项功能中，用户不仅可以通过AI自动优化拍照，还能享受到AI支持的文本总结、邮件自动回复等便捷功能。这些AI功能通过端侧大模型实现，允许用户无需依赖云端即可完成复杂任务，不仅提高了效率，还提升了隐私保护。 

Apple Intelligence的发布，不仅展示了苹果在端侧AI领域的最新进展，还向市场传递了一个明确的信号：未来的智能设备将更多依赖端侧AI，减少对云端的依赖。

苹果AI的效应影响深远，不仅推动了消费市场的升级，也引发了产业链上下游的紧密合作。芯片制造商、操作系统开发者和应用开发商等各个环节都在为端侧AI的普及做出贡献。芯片厂商不断优化硬件架构，提升计算能力；操作系统开发者则通过优化软件，确保AI功能能够在不同设备上高效运行；应用开发商则在端侧AI的基础上开发出越来越多创新的应用场景，这些协同效应加速了端侧AI生态的构建与完善。 

值得质疑的是，苹果的端侧AI与云端AI并不是彼此替代，而是相互补充的关系。苹果通过端侧AI来处理本地设备上的任务，比如实时语音识别、图像处理等，而对于需要大量计算资源的复杂任务，则依赖云端AI进行补充。这种端云协同的模式大幅提高了AI系统的效率，并减少了网络依赖。 

苹果对于端侧AI的重视与投入，不仅体现在其旗舰产品上，更贯穿于整个产品线和生态系统中。从iOS操作系统到各类应用软件，苹果都在不断推动端侧AI的普及和应用。这种全面的布局和深入的渗透，使得苹果在端侧AI领域形成了强大的示范效应，引领了整个行业的发展方向。 

当然，2024年成为“端侧AI大年”并不仅仅是因为苹果的引领作用。市场需求和技术成熟的双重驱动也是不可忽视的重要因素。 随着智能手机市场的日益饱和和竞争的加剧，厂商们开始寻求新的突破点以提升产品竞争力。而端侧AI正是这样一个具有广阔前景和巨大潜力的领域。 

近年来，随着端侧AI技术的不断发展，各大芯片厂商纷纷推出了具备强大AI处理能力的芯片产品。骁龙8至尊版、天玑9400、苹果A18 Pro以及英特尔和AMD的最新芯片产品，均在端侧AI方面展现出了卓越的性能和丰富的功能。

骁龙8至尊版搭载了高通自研的Hexagon NPU，性能相比前代提升了最高12倍，支持多种精度的AI运算，能够利用大型语言模型和动作模型，为端侧AI提供强大的支持。天玑9400则融合了先进AI技术，搭载了MediaTek第八代AI处理器NPU 890，支持端侧LoRA训练、高画质视频生成等多种AI功能，实现了端侧生图到生成视频的大跨越。 

苹果A18 Pro芯片则搭载了16核神经网络引擎，提供了强大的AI运算能力，相比前代产品有了显著提升，能够支持多种AI特性，提升用户的使用体验。 

英特尔和AMD也不甘示弱，分别推出了酷睿Ultra处理器平台和Ryzen AI PRO 300系列处理器等企业级AI解决方案。这些产品不仅具备出色的算力支持，还能够满足云、企业和AI等多种工作负载的需求，提供了更加出色的本地化AI应用体验。 

这些芯片产品的推出，不仅推动了端侧AI技术的进一步发展，也为各行各业提供了更加智能化、高效化的解决方案，预示着未来AI技术将更加深入地融入我们的生活和工作中。 

除了苹果，谷歌、荣耀、vivo等公司也在端侧AI领域加大了投入。2024年，谷歌发布的新一代Pixel手机强化了端侧AI的应用，尤其是在图像处理和语音助手方面表现突出。国内厂商荣耀和vivo则通过创新的AI模型，展示了中国企业在端侧AI领域的强劲竞争力。

在刚刚落幕的VDC2024 vivo开发者大会上，vivo正式发布全新30亿参数量级的蓝心端侧大模型3B。在对话写作、摘要总结、信息抽取等能力上，蓝心3B可以越级比肩行业7B-9B模型。另外，vivo还构建了个人智能系统框架，通过本地化知识图谱，基于端侧大模型能力，建立人与设备共同的记忆。 

在全产业链的推动之下，用户对AI功能的期待与接受度也在不断提升。 从最初的语音识别、图像识别到现在的自然语言处理、智能推荐等，AI已经渗透到了我们生活的方方面面。用户对于更加智能、便捷的应用体验的需求日益强烈，这也为端侧AI的发展提供了强大的动力。 

同时，端侧AI模型在性能与效果上也实现了显著提升。 通过不断的优化和改进，现在的端侧AI模型已经能够在有限的设备资源下实现高效的模型推理和准确的结果输出。这使得端侧AI在实际应用中更加可靠和稳定，也为其广泛应用奠定了坚实基础。 

智能手机市场的普及趋势表明，端侧AI技术已经不再是旗舰设备的专属，而是逐渐向中低端设备普及。 随着技术成本的下降和产业链的协同推进，预计到2024年底，全球大部分新发布的智能手机都将具备某种形式的端侧AI功能。 

在智能手机市场之外，端侧AI也在向其他智能终端领域拓展。 随着物联网技术的不断发展和智能设备的日益普及，越来越多的IoT终端产品开始融入端侧AI技术。这些设备通过内置的传感器和处理器，能够实时采集和处理数据，并通过端侧AI模型进行智能分析和决策。这种智能化的应用方式不仅提升了设备的性能和效率，也为用户带来了更加便捷和智能的生活体验。 

在端侧大模型技术的推动下，不仅带动了消费终端市场的升级，也引发了产业链上下游的紧密合作 ：芯片厂商不断优化硬件架构，提升计算能力；操作系统开发者则通过优化软件，确保AI功能能够在不同设备上高效运行；应用开发商则在端侧AI的基础上开发出越来越多创新的应用场景，这些协同效应加速了端侧AI生态的构建与完善。 

可以预见，随着技术的不断迭代，端侧AI在智能手机市场的应用前景十分广阔。端侧AI不仅能够增强设备的智能化水平，还将为用户提供更加个性化的体验。未来的AI助手将变得更加聪明，能够主动学习用户习惯，提供个性化的建议并根据不同的场景进行智能决策。同时，通过本地与云端的协同，也让随着越来越多的个人数据在本地设备上进行处理，更好地实现数据安全与隐私保护问题，也将为用户提供了一个更加安全的AI应用环境。 

本文来自微信公众号“大模型之家”，作者：乔志斌，36氪经授权发布。