订阅我们的每日和每周新闻通讯,获取有关行业领先人工智能报道的最新更新和独家内容。了解更多
Adobe 的研究人员创造了一种突破性的 AI 系统,它可以直接在智能手机上处理文档,无需互联网连接,这可能会彻底改变企业处理敏感信息的方式以及消费者与设备交互的方式。
这个名为 SlimLM 的系统代表着人工智能部署的一次重大转变——从庞大的云计算中心转移到用户口袋里的手机上。在三星最新的 Galaxy S24 上进行的测试中,SlimLM 表明它可以在完全依靠设备硬件的情况下分析文档、生成摘要并回答复杂问题。
“虽然大型语言模型已经引起了广泛关注,但小型语言模型在真实移动设备上的实际应用和性能却鲜为人知,尽管它们在消费技术中越来越重要,”由 Adobe 研究院、奥本大学和佐治亚理工学院的科学家领导的研究团队解释道。
SlimLM 出现在科技行业向边缘计算转变的关键时刻——在这种模式下,数据在创建的地方进行处理,而不是在遥远的数据中心。谷歌、苹果和 Meta 等主要参与者一直在竞相将 AI 推向移动设备,谷歌发布了面向 Android 的 Gemini Nano,Meta 正在开发 LLaMA-3.2,这两者都旨在将高级语言功能带到智能手机上。
SlimLM 的独特之处在于它针对现实世界应用进行了精确优化。研究团队测试了各种配置,发现他们最小的模型——只有 1.25 亿个参数,相比之下,像 GPT-4o 这样的模型包含数千亿个参数——可以在智能手机上有效地处理长达 800 字的文档。更大的 SlimLM 变体,扩展到 10 亿个参数,也能够接近资源更密集的模型的性能,同时仍然保持在移动硬件上的平稳运行。
这种无需牺牲太多性能即可在设备上运行复杂 AI 模型的能力可能是一个游戏规则的改变者。“我们最小的模型在 [三星 Galaxy S24] 上展示了高效的性能,而更大的变体在移动限制内提供了增强的功能,”研究人员写道。
SlimLM 的商业意义远远超出了技术成就。企业目前在基于云的 AI 解决方案上花费数百万美元,为处理文档、回答问题和生成报告的 OpenAI 或 Anthropic 等服务的 API 调用付费。SlimLM 预示着未来,这些工作中的大部分可以在智能手机上本地完成,从而显着降低成本,同时提高数据隐私。
处理敏感信息的行业——例如医疗保健提供者、律师事务所和金融机构——将从中受益最大。通过直接在设备上处理数据,公司可以避免将机密信息发送到云服务器带来的风险。这种在设备上的处理还有助于确保遵守 GDPR 和 HIPAA 等严格的数据保护法规。
“我们的研究结果提供了宝贵的见解,并阐明了在高端智能手机上运行高级语言模型的能力,这有可能降低服务器成本,并通过在设备上的处理来增强隐私,”该团队在他们的论文中指出。
SlimLM 背后的技术突破在于研究人员如何重新思考语言模型以满足移动设备的硬件限制。他们不是仅仅缩减现有的大型模型,而是进行了一系列实验,以找到模型大小、上下文长度和推理时间之间的“最佳点”,确保模型能够在不超载移动处理器的情况下提供现实世界的性能。
另一个关键创新是创建了 DocAssist,这是一个专门的数据集,旨在训练 SlimLM 用于与文档相关的任务,例如摘要和问答。该团队没有依赖通用的互联网数据,而是将他们的训练重点放在实际的商业应用上,使 SlimLM 非常适合在专业环境中最重要的任务。
SlimLM 的开发预示着未来,复杂的 AI 不需要持续的云连接,这种转变可以使人们更容易获得 AI 工具,同时解决人们日益关注的数据隐私和云计算的高成本问题。
考虑一下潜在的应用:智能手机可以智能地处理电子邮件、分析文档并协助写作——所有这些都无需将敏感数据发送到外部服务器。这可能会彻底改变法律、医疗保健和金融等行业的专业人士与移动设备交互的方式。这不仅仅是关于隐私;它还关于创建更具弹性和更易于访问的 AI 系统,这些系统可以在任何地方工作,无论是否连接互联网。
对于更广泛的科技行业来说,SlimLM 代表了一种引人注目的替代方案,它取代了主导 AI 开发的“越大越好”的心态。虽然 OpenAI 等公司正在推动万亿参数模型,但 Adobe 的研究表明,更小、更高效的模型在针对特定任务进行优化时仍然可以提供令人印象深刻的结果。
SlimLM 代码和训练数据集的(即将)公开发布可能会加速这种转变,使开发人员能够为移动设备构建保护隐私的 AI 应用程序。随着智能手机处理器不断发展,基于云的 AI 处理和在设备上的 AI 处理之间的平衡可能会大幅度地向本地计算倾斜。
SlimLM 提供的不仅仅是 AI 技术的又一个进步;它是一种关于我们如何看待人工智能的新范式。未来的人工智能可能不是依赖于庞大的服务器场和持续的互联网连接,而是个性化的,直接在你的口袋里的设备上运行,维护隐私,并减少对云计算基础设施的依赖。
这一发展标志着 AI 发展的新篇章的开始。随着技术的成熟,我们可能很快就会将基于云的 AI 看作一个过渡阶段,真正的革命将是 AI 足够小到可以装进我们口袋的那一刻。