苹果在iDevices中的生成式AI方法

快速导读：尽管苹果公司努力将生成式AI技术融入其iDevices中，但在不久的将来，这可能不会成为iOS的主要特点。与竞争对手相比，苹果公司采取了更为保守的方法。该公司注重硬件，如其强大的神经处理单元（NPUs），以及在其M系列芯片上运行AI推理工作负载的能力，这表明计算能力并不是一个限制因素。然而，挑战在于内存限制，这可能需要苹果开发更小、更有针对性的模型，或者找到创新解决方案，如在闪存上运行模型。

苹果的硬件优势

苹果在自家芯片中使用NPUs，使其在AI实施方面独具优势。自从A11 SoC以来，这些神经引擎已经集成到苹果的设备中，可以高效处理机器学习工作负载，并为CPU和GPU腾出空间用于其他任务。最新的iPhone 15 Pro中的A17 Pro尤为强大，能够推动35 TOPS，是其前身的两倍，超过了英特尔和AMD为个人电脑提供的NPUs。这种硬件优势，再加上苹果在移动AI方面的经验，使该公司在AI领域处于有利地位。

内存限制和潜在解决方案

尽管苹果的硬件可以处理AI工作负载，但内存限制构成了一个挑战。AI模型通常需要大量的内存，但苹果可能需要做出妥协或寻找替代方法。一个选择是开发更小、量化的模型，减少内存需求。另一个潜在的解决方案是在闪存上运行模型，正如苹果研究人员发表的一篇研究论文中所展示的那样。然而，随着苹果在AI功能方面的前进，预计其将采取保守的方法，重点放在改善用户体验上，例如改进Siri的理解和有效回应查询的能力。

苹果的保守方法和未来展望

苹果以迟于采用新技术而通过改进和完善功能取得成功的记录。虽然生成式AI尚未证明其影响力，但苹果对隐形AI的关注并没有阻碍其成为2024年最畅销的智能手机供应商。随着公司继续发展其AI能力，它很可能将优先考虑实际应用和以用户为中心的改进，而不是花哨的AI功能。