Cohere API V2 升级：更贴近行业标准，助力开发者构建更强大的 AI 应用
Cohere 近期发布了其 AI 模型 Chat、Embed、Rerank 和 Classify 的应用程序编程接口 (API) 的更新版本，统称为 API V2。此次升级旨在更紧密地与 AI 行业标准保持一致，为开发者提供更便捷的迁移路径，将他们的应用程序迁移到 Cohere 的模型，从而与 OpenAI、Anthropic、Google、Mistral 和 Meta 等竞争对手展开竞争。
近期，Andreessen Horowitz (A16z) 的普通合伙人 Martin Casado 在 X 上发布了一张图表，展示了 AI API 平台 Kong 对 800 位企业领导者进行的调查结果，揭示了他们正在使用的各种大型语言模型 (LLM)。
OpenAI 的 ChatGPT 在图表中占据主导地位，市场份额为 27%，而微软的 Azure AI 云服务和 Google Gemini 分别占据 18% 和 17%。Cohere 排名倒数第二，仅占 5%，这表明这家总部位于多伦多的初创公司（由 2017 年原始 Transformer 论文的几位 Google 前研究人员共同创立，该论文开创了生成式 AI 时代）还有很长的路要走，才能赢得其正在争取的企业客户。
近 800 位企业人士对 LLM 市场份额的调查结果（由 Kong 进行）。对我来说，最值得注意的是 Gemini 使用量的显著增长。Alphabet 团队做得太棒了。
API V2 版本中最显著的变化之一是要求开发者在 API 调用中指定模型版本。以前，此字段是可选的，这有时会导致在发布新模型并更改默认模型时出现意外行为。通过将模型版本设为必填字段，Cohere 确保开发者能够保持一致的应用程序性能，尤其是在涉及 Embed 模型的场景中，因为使用不同的版本可能会影响结果。
更新后的 Chat API 引入了多项可用性改进，包括将输入参数合并到单个 messages 数组中，取代了以前需要单独的 message、chat_history 和 preamble 参数的结构。此更改简化了输入过程，允许更复杂的用例，其中可以将 system 或 assistant 等角色分配给聊天序列中的最新消息。
Cohere 的新 API 还增强了工具集成功能。在 V2 版本中，工具使用 JSON 模式而不是 Python 类型进行定义，从而使过程更加灵活，并与更广泛的应用程序兼容。此外，每个工具调用现在都包含一个唯一的 ID，使 API 能够将工具结果与其相应的调用正确匹配，这比缺乏此功能的 V1 API 进行了改进。
对于流式交互，V2 Chat API 已从 JSON 流事件切换到服务器发送事件 (SSE)，为用户提供更强大、更灵敏的体验。
Cohere 已确认将继续支持 V1 API 套件，确保尚未准备好迁移的开发者仍然可以依赖现有实现。V1 API 或其关联的 SDK 不会出现重大更改。但是，该公司建议升级到 V2，以获得增强的稳定性和对最新功能的访问权限，例如模型版本强制执行和高级聊天功能。
为了促进向 API V2 的过渡，Cohere 发布了其更新端点的全新 SDK 和 OpenAPI 规范。这些资源以及详细的聊天迁移指南可在 Cohere 平台上获得。鼓励开发者通过公司的 Discord 社区提供反馈和建议。
Cohere 的 API V2 版本代表着使其平台对开发者更易访问和更高效的重要一步。通过这些更新，该公司旨在提供更简化、更可预测的开发体验，并最终从 OpenAI 和其他流行的 API 中赢得用户。
