手机上的AI革命：Meta将Llama模型压缩至手机级别
Meta Platforms 正在掀起一场 AI 革命，将强大的 Llama 人工智能模型压缩至手机和平板电脑上运行，为 AI 应用开辟了前所未有的可能性。
Meta 今日宣布推出 Llama 3.2 1B 和 3B 模型的压缩版本，这些版本运行速度提高了四倍，内存占用量却不到之前版本的一半。Meta 的测试表明，这些更小的模型在性能上几乎与它们的更大版本相媲美。
这项突破性的技术利用了名为量化的压缩技术，简化了驱动 AI 模型的数学计算。Meta 将两种方法结合在一起：使用 LoRA 适配器的量化感知训练 (QLoRA) 来保持准确性，以及 SpinQuant 来提高可移植性。
这项技术成就解决了关键问题：在没有强大计算能力的情况下运行先进的 AI。此前，复杂的 AI 模型需要数据中心和专用硬件。
在 OnePlus 12 Android 手机上的测试表明，压缩后的模型体积缩小了 56%，内存占用量减少了 41%，同时文本处理速度提高了两倍以上。这些模型可以处理高达 8,000 个字符的文本，足以满足大多数移动应用程序的需求。
Meta 的压缩 AI 模型 (SpinQuant 和 QLoRA) 在 Android 手机上测试时，与标准版本相比，在速度和效率方面取得了显著进步。这些更小的模型运行速度提高了四倍，同时内存占用量减少了一半。(图片来源：Meta)
Meta 的发布加剧了科技巨头之间争夺移动设备 AI 控制权的战略战役。虽然 Google 和 Apple 采取谨慎、受控的方式来处理移动 AI，将其与他们的操作系统紧密集成，但 Meta 的策略却截然不同。
通过开源这些压缩模型并与芯片制造商高通和联发科合作，Meta 绕过了传统的平台守门人。开发者可以构建 AI 应用程序，而无需等待 Google 的 Android 更新或 Apple 的 iOS 功能。此举让人想起移动应用程序的早期阶段，当时开放平台极大地加速了创新。
与高通和联发科的合作尤其重要。这两家公司为全球大多数 Android 手机提供支持，包括新兴市场中的设备，而 Meta 在这些市场看到了增长潜力。通过针对这些广泛使用的处理器优化其模型，Meta 确保其 AI 可以在不同价位的手机上高效运行，而不仅仅是高端设备。
Meta 决定通过其 Llama 网站和 Hugging Face（日益重要的 AI 模型中心）进行分发，这表明 Meta 致力于在开发者已经工作的地方接触他们。这种双重分发策略可能有助于 Meta 的压缩模型成为移动 AI 开发的实际标准，就像 TensorFlow 和 PyTorch 成为机器学习的标准一样。
Meta 今日的公告预示着人工智能领域的一场重大转变：从集中式计算到个人计算的转变。虽然基于云的 AI 将继续处理复杂的任务，但这些新模型表明，未来手机可以私密且快速地处理敏感信息。
时机至关重要。科技公司面临着越来越大的数据收集和 AI 透明度方面的压力。Meta 的方法——使这些工具开放并在手机上直接运行——解决了这两个问题。你的手机，而不是遥远的服务 器，很快就可以处理文档摘要、文本分析和创意写作等任务。
这反映了计算领域的其他关键转变。正如处理能力从大型机转移到个人电脑，计算从台式机转移到智能手机一样，AI 似乎也准备好了向个人设备过渡。Meta 的赌注是，开发者将拥抱这种变化，创造出将移动应用程序的便利性与 AI 的智能相结合的应用程序。
成功并非有保证。这些模型仍然需要功能强大的手机才能正常运行。开发者必须权衡隐私的好处与云计算的原始力量。而且 Meta 的竞争对手，特别是 Apple 和 Google，也对手机上的 AI 未来有着自己的愿景。
但有一点是明确的：AI 正在从数据中心中解放出来，一次一台手机。
