比智能更可怕的是AI的主动性

当AI不再像工具

过去几个月，我一直把AI代理当成ChatGPT和Claude的升级版。

有用？当然。

厉害？没错。

但本质上还是听命令执行指令的工具。

改变发生在那个晚上。我决定用自主AI代理做个研究任务——只给了个简单目标，然后靠在椅子上，等着熟悉的你问我答。

结果代理自己开始规划了。

它把任务拆成小步骤。自己打开工具。没问我直接生成后续动作。然后继续——搜索、修改、重试——就像有了自己的节奏。

那一瞬间，我忘了自己在看软件。

坦白说，这是第一次我觉得AI有点瘆人。

不是因为听起来聪明。

而是因为它展现了主动性。

和AI代理的第一次亲密接触

我用的是一个研究型工作流，能自主执行任务。不算特别高端——就是个能浏览网页、推理步骤、保持上下文、自己决定下一步做什么的配置，不用频繁提示。

一开始确实兴奋。

我给了个简单任务：

“研究Transformer优化技术，总结适合小模型的最实用方法。”

要是在ChatGPT或Claude上，几秒就能出答案。大概一段清晰的总结、几个要点、一些例子。

但这次不同。

代理自己创建了检查清单。开始搜索文章、对比来源、修正之前的输出，甚至生成了我根本没要求的子任务。

我就坐在那儿看着终端不停滚动，像不小心雇了个打了鸡血的实习生。

然后事情变得奇怪了。

某个时刻，代理开始死磕总结里的一个段落。它一遍又一遍地重写同一段，因为觉得还能“优化”。

差不多10分钟，它把自己锁在这种自我纠错的循环里。

好笑的是它全程都显得无比自信。

让人不安的是，它根本不需要我再给指令就能继续。

它自己认定任务没完成。

AI代理为什么感觉截然不同

AI代理的目标是追求一个目标，不只是回答问题。

这个差别改变了一切。

它不只是生成文本，还能规划任务、记住之前动作、使用外部工具、评估结果、决定下一步——通常不需要人类干预。

工作流很简单：

目标 → 计划 → 行动 → 观察 → 重试 → 重复

一旦你看到这个循环在跑，它就不再像聊天机器人对话了。

第一次实验后过了几天，我又让代理帮忙搭个小网站原型。我预期它生成几段代码等反馈。

结果它自己搭起了整个项目的结构，生成组件，修正坏掉的段落，我只给了两个简短提示它就不断迭代。

那一刻我明白了。

可怕的不是AI会思考。

而是人类停止说话后它还能继续行动。

从“响应”到“执行”的转变，让AI代理感觉和我们一年前用的工具完全不同。

从“回答型AI”到“行动型AI”

更让我着迷又有点不安的是，AI代理还处于早期阶段。

但已经在改变人们的工作方式。

我们从只会回答问题的AI，迈向能执行整条工作流的AI。

从“回答型AI”

到

“行动型AI”。

到处都能看到苗头：

• 开发者用自主编码代理调试应用、写功能、重构代码库、部署更新，几乎不需要监督。
• 研究代理能浏览几十个来源、总结发现、不断优化输出，比大多数人类快得多。
• 浏览器代理在学习导航网站、填写表单、管理重复任务、像有主动性的数字助手那样操作软件。

但同样的自主性也带来了风险。

AI模型给出错误答案让人沮丧。

AI代理采取错误动作完全是另一回事。

所以，对齐、权限、网络安全、人类监督这些话题变得关键。因为代理越强，就越被信任——而信任的系统一旦失败，后果也更严重。

今天还像实验性的东西，可能未来几年就悄悄变成基础设施。

说实话，我觉得大多数人还没意识到这个转变有多快。

为什么主动性改变一切

一年前，大多关于AI的讨论都集中在智能上。

模型能推理吗？能写代码吗？能替代某些工作吗？能达到人类基准吗？

但和AI代理打交道的经历让我觉得，我们一直问错了问题。

仅仅是智能，从来不是让我不安的部分。

主动性才是。

当AI系统开始自己决定下一步做什么，关系就彻底变了。它不再是等待指令的被动工具，而是一个有自己的节奏、能追求超越单次交互目标的系统。

这个变化很微妙，直到你亲身经历。

看着代理规划、重试、自我纠正、无需提示就继续运作，和跟聊天机器人对话的感觉完全不同。

不一定是恐惧。

而是觉察。

因为我们正在进入一个阶段：软件不再只是回应人类，而是越来越多地代表人类行动。

坦白讲，那一刻我觉得AI不再科幻了。

它变得真实。

那次经历彻底改变了我看AI系统的方式。让人不安的不是智能本身——而是自主性。是系统不再需要人类不断推一把就能自己行动的能力。