Tether发布BotPsy端侧模型，8亿参数超越20亿大模型

前沿云端大语言模型虽然强大，但运营成本高昂且波动难以预测。过度依赖第三方接口还会面临访问受限、定制化门槛高以及数据隐私泄露等风险。事实上，并非所有任务都需要顶尖水平的算力，小参数模型在特定场景下同样能够胜任日常工作，并且非常适合端侧部署。

Tether AI Research 近日推出了一款专为工具调用和智能体工作流设计的轻量级模型——BotPsy。该模型参数量仅为 8 亿（0.8B），基于 Qwen3.5-0.8B 开发，专为端侧本地部署打造，定位为用户的随身个人助手，可执行网络检索、出行生活、商业财务、设备控制及日程邮件管理等低中难度任务。

在同等尺寸模型中，BotPsy 展现出了极高的工具调用与智能体任务水平，全面领先 1.2B 及以下规格的同类产品。目前，该项目已在 Hugging Face 开源开放权重（遵循 Apache 2.0 协议），并提供适配 llama.cpp 的 GGUF 量化格式。

性能飞跃：8 亿参数击败 20 亿对手

测试数据显示，BotPsy 的智能体表现较基础模型几乎翻倍：在 BFCL v4 测试中得分从 23.4 升至 44.0，ACEBench 从 30.1 升至 58.7，τ-bench 则由 23.2 提升至 51.5。

更引人注目的是，在多项主流评测中，BotPsy 的成绩甚至超过了参数量为其 2.5 倍的 Qwen3.5-2B-Think。在 BFCL v4、ACEBench、τ-bench、ToolSandbox 和 BrowseComp-Plus 五项基准测试中，BotPsy 均实现了越级领先，仅在 Claw-Eval 测试中微弱落后于 2B 模型。

核心能力与安全表现

• 复杂多轮交互可靠性更高：在模拟多轮客户服务的 τ²-bench 电信测试中，BotPsy 拿到了 82.5 分，显著优于 Qwen3.5-2B-Think 的 69.3 分。在商业服务与系统设备管理等复杂链条场景中，它的多步骤执行得分也居于首位。
• 明确识别调用边界：AI 智能体不仅要懂得如何调用工具，更要清楚何时拒绝调用。在考察模型拒识能力的 BFCL v4 幻觉测试中，BotPsy 获得了 86.1 的高分，在缺乏对应工具时能准确识别并主动拒绝，避免盲目尝试。
• 指令遵循与通用知识兼顾：工具调用的专项训练并未削弱其基础能力。BotPsy 在 IFEval 指令遵循基准上取得 90.8 分（基座模型为 59.7 分），并在 GPQA Diamond 和 MMLU-Pro 知识测试中逆势上扬。
• 更安全的端侧防护：在针对有害内容的红队测试中，BotPsy 的不安全响应率降至 21%（基座模型为 36%），显著优于同量级竞品。针对端侧智能体面临的提示词注入攻击，其违规率从 46% 降到了 31%。

四阶段训练范式：蒸馏与强化学习结合

BotPsy 的能力提升源自一套严密的四阶段后训练流水线，分别利用了示例模仿、专有教师引导以及规则奖励：

1. 监督微调（SFT）：利用多轮交互轨迹、并行工具调用及拒识用例开展全参数微调，初步建立工具使用规范。
2. 多教师策略蒸馏（MOPD）：通过 3 个分别强化了工具使用、通用推理和指令遵循的 Qwen3.5-4B 专家模型作为教师，以 KL 散度为信号指导学生模型生成。这一阶段不仅巩固了工具能力，还补齐了 SFT 阶段损失的通用知识。
3. 第一阶段强化学习（RL）：采用 DAPO 系统引入基于规则和验证器的细粒度反馈，细致评估工具名称和参数的正确度，摆脱二元评分的局限。
4. 第二阶段强化学习：将训练拓展到数学、代码及模拟工作流等多步骤验证任务中，全面稳固多轮逻辑能力。

推理效率显著提升

在端侧设备上，推理效率直接决定了用户体验。评测显示，在回答相同难题时，BotPsy 在 GPQA Diamond 上消耗的思考 Token 数量仅为基座模型的三分之一（3,690 对比 11,563），在 MMLU-Pro 上减少了 2.7 倍。同时，在长指令测试中陷入死循环推理的几率从 22.9% 大幅下降至 1.4%，大幅缩短了端侧响应的延迟。

团队也明确指出了该模型的局限性：BotPsy 目前主要针对英语环境优化，在开放式深度检索及小语种场景下的表现仍显吃力，且小模型依然存在幻觉可能，不适宜用于高风险的财务或医疗自动决策。未来团队将进一步探索点对点去中心化协同与本地设备微调机制，持续推动端侧个人 AI 生态的发展。