LinkedIn 如何利用生成式 AI 提升销售效率？
在企业中，如何找到合适的提示词以从生成式 AI 模型中获得最佳结果，并非易事。一些公司为此设立了“提示词工程师”职位，但 LinkedIn 却另辟蹊径。
作为微软旗下的专业社交平台，LinkedIn 拥有超过 10 亿用户。尽管规模庞大，LinkedIn 依然面临着与其他企业相同的挑战：如何弥合技术人员和非技术人员之间的差距，让生成式 AI 技术真正落地应用。对于 LinkedIn 而言，生成式 AI 的应用场景既面向最终用户，也面向内部用户。
一些企业可能选择将提示词存储在电子表格中，或仅仅在 Slack 和消息通道中共享。而 LinkedIn 则采取了一种新颖的策略，打造了一个名为“协作式提示词工程游乐场”的平台，让技术人员和非技术人员能够协同工作。该系统巧妙地结合了大型语言模型 (LLM)、LangChain 和 Jupyter Notebook 等技术。
LinkedIn 已经利用这种方法，为其销售导航产品添加了 AI 功能，特别是 AccountIQ 工具，该工具将公司研究时间从 2 小时缩短至 5 分钟。
与其他企业一样，LinkedIn 最初的生成式 AI 之旅也是从摸索开始的。
“当我们开始使用生成式 AI 进行项目时，产品经理总是会提出很多想法，比如‘为什么我们不能尝试这个？为什么我们不能尝试那个？’，”LinkedIn 软件工程师 Ajay Prakash 告诉 VentureBeat。“我们的目标是让产品经理能够自己进行提示词工程，尝试不同的方法，而不是让工程师成为一切的瓶颈。”
当然，LinkedIn 对机器学习 (ML) 和 AI 并不陌生。
早在 ChatGPT 出现之前，LinkedIn 就已经构建了一个工具包来衡量 AI 模型的公平性。在 2022 年的 VB Transform 大会上，LinkedIn 概述了其 AI 战略（当时）。然而，生成式 AI 有所不同。它不需要工程师专门使用，更易于普及。这就是 ChatGPT 引发的革命。构建基于生成式 AI 的应用程序与构建传统应用程序并不完全相同。
Prakash 解释说，在生成式 AI 出现之前，工程师通常会从产品管理人员那里获得一组产品需求，然后进行开发。而生成式 AI 则让产品经理能够尝试不同的方法，探索可能性，并找到有效的方法。与传统 ML 不同，生成式 AI 更易于非技术人员使用。
传统的提示词工程往往会造成瓶颈，工程师成为任何更改或实验的守门人。LinkedIn 的方法通过定制的 Jupyter Notebook 提供了一个用户友好的界面，改变了这种动态。Jupyter Notebook 传统上用于数据科学和 ML 任务。
毫无疑问，LinkedIn 使用的默认 LLM 供应商是 OpenAI。毕竟，LinkedIn 是微软的一部分，而微软托管了 Azure OpenAI 平台。
LinkedIn 高级工程经理 Lukasz Karolewski 解释说，使用 OpenAI 更方便，因为他的团队在 LinkedIn/微软环境中更容易访问。他指出，使用其他模型需要额外的安全和法律审查流程，这将需要更长的时间才能使其可用。该团队最初优先考虑的是验证产品和想法，而不是优化最佳模型。
LLM 只是系统的一部分，该系统还包括：
- 用于界面层的 Jupyter Notebook；
- 用于提示词编排的 LangChain；
- 用于测试期间数据湖查询的 Trino；
- 用于轻松访问的基于容器的部署；
- 用于非技术用户的自定义 UI 元素。
Jupyter Notebook 在 ML 社区中已经广泛使用近十年，作为一种帮助使用交互式 Python 语言界面定义模型和数据的方法。
Karolewski 解释说，LinkedIn 预先编程了 Jupyter Notebook，使其更易于非技术人员使用。这些笔记本包含 UI 元素，例如文本框和按钮，让任何类型的用户都能轻松上手。这些笔记本以一种易于用户启动环境的方式打包，无需复杂的开发环境设置。主要目的是让技术人员和非技术人员都能尝试不同的提示词和想法，以使用生成式 AI。
为了实现这一点，该团队还集成了对 LinkedIn 内部数据湖数据的访问。这允许用户以安全的方式提取数据，用于提示词和实验。
LangChain 充当编排生成式 AI 应用程序的库。该框架帮助团队轻松地将不同的提示词和步骤链接在一起，例如从外部来源获取数据、过滤和综合最终输出。
虽然 LinkedIn 目前并不专注于构建完全自主的基于代理的应用程序，但 Karolewski 表示，他认为 LangChain 是未来可能朝着这个方向发展的基础。
LinkedIn 的方法还包括多层评估机制：
- 基于嵌入的关联性检查，用于输出验证；
- 通过预构建的评估器进行自动危害检测；
- 使用更大的模型评估较小的模型，进行 LLM 基于的评估；
- 集成的人类专家审查流程。
这种方法的有效性体现在 LinkedIn 的 AccountIQ 功能上，该功能将公司研究时间从两小时缩短至五分钟。
这种改进不仅仅是速度更快，它代表了 AI 功能开发和改进方式的根本转变，可以直接从领域专家那里获得反馈。
“我们不是销售领域的专家，”Karolewski 说。“这个平台允许销售专家直接验证和改进 AI 功能，从而形成一个以前不可能实现的紧密反馈循环。”
虽然 LinkedIn 并不打算开源其生成式 AI 提示词工程游乐场，因为它与内部系统深度集成，但这种方法为其他希望扩展 AI 开发的企业提供了经验教训。虽然完整的实现可能无法获得，但相同的基本构建块——即 LLM、LangChain 和 Jupyter Notebook——可供其他组织构建类似的方法。
Karolewski 和 Prakash 都强调，对于生成式 AI 而言，重点在于可访问性。从一开始就实现跨职能协作也很重要。
“我们从社区中获得了许多想法，也从社区中学习了很多，”Lukasz 说。“我们主要好奇的是，其他人是怎么想的，他们是如何将来自主题专家的专业知识引入工程团队的。”
