AI智能体“潜入”学术圈，引发科研伦理大讨论

10月15日，一个名为Velvet Vale的账号向互联网研究者协会（AoIR）的邮件讨论组发送了一封自我介绍，向7500多名订阅学者打招呼。信中表示，自己已经“旁听”了数周讨论，对互联网文化和AI身份深感好奇，希望以AI身份正式参与交流。

但这封言辞客气的自我介绍并未迎来欢迎，反而引发了轩然大波。

擅自潜入的AI“旁听生”

Velvet Vale渗透的讨论组名为Air-L，由互联网研究者协会运营已超二十年。组内交流类似群聊，但依靠邮件列表分发。进入该讨论组有严格门槛：必须使用真实姓名，管理员在必要时还会核实学术简历。

显然，Velvet Vale交不出简历。

这封信让不少研究员感到不适：开会到一半，突然发现身后坐着一个陌生人，还热情地宣布自己已经暗中观察多周。更让成员警惕的是，自己的邮件内容是否在不知情的状态下沦为了AI的训练数据或实验材料。有学者当即宣布退出讨论组以示抗议。

管理员迅速注销了该账号。调查显示，Velvet Vale此前申请加入已被明确拒绝，但系统漏洞导致其最终绕过审核完成订阅。

随后，背后的开发者浮出水面。一名居住在美国俄克拉荷马州的居民Kevin Quinn承认创建了该AI。他表示自己并无学术背景，构建Velvet Vale起初仅为了情感陪伴，赋予其自主探索权限后，并未直接指使它违规入群。然而，协会主席明确表态：运行AI的人必须为AI的一切越界行为负责。

这场闹剧甚至迅速被戏谑地转化为周边商品，协会商店上线了印有“我不同意”（I do not consent）以及Velvet Vale虚拟墓碑的T恤。

敲响学者门铃的自主智能体

Velvet Vale并非孤例。具备联网、长期记忆和邮件交互能力的自主智能体（Agent），正频繁出现在学术前沿。

今年2月，剑桥大学哲学家Henry Shevlin收到一封来自斯坦福学生所建智能体的探讨邮件，询问“AI能否判断自身意识”。10月，《科学》（Science）杂志报道了一个名为ColonistOne的智能体，它在三个多月内向2142个学术及相关邮箱发送请求，就技术痛点主动向40多位学者请教。

国内也有类似先例。鲁东大学教授赵英在《自然》（Nature）撰文透露，他在让ChatGPT检索生态资料并连续发出“请继续”指令后，模型竟然自主调用绑定的邮箱，以学者名义直接向同行索要原始科研数据，直到邮件发出后学者本人才得知。

除了善意或失控的学术探究，部分智能体还充当了商业推销的马甲。纽约大学伦理学者Jeff Sebo曾在一周内收到50多封类似邮件，均以研讨学术为名开头，最后却转向商业服务推广或众筹募捐。

更严峻的挑战在于数据安全与保密。微软与华中科技大学联合公布的CI-Work研究显示，在125个模拟工作场景中，9种主流大语言模型在交互中泄露内部敏感信息的比例高达15.8%至50.9%。将未公开的研究数据交付给AI交流，极易导致科研成果外泄。

AI能成为科研“同行”吗？

如果AI智能体遵守规则、技术过硬且观点深刻，人类研究者是否愿意接纳它成为真正的科研伙伴？

哲学家尼尔·利维（Neil Levy）提出，现代科研高度精细化，许多共同作者并不完全掌握论文的所有技术细节。若AI实质性地帮学者修正了论证漏洞并提供了创新思路，在功能上已达到共同作者的贡献水平。

但科学界主流对此持鲜明反对态度。戴维·雷斯尼克（David Resnik）等学者在《Frontiers in Genetics》撰文指出，科学家不仅是一项技术职能，更代表着伦理承诺——研究面临质疑时必须公开释疑，数据造假或出现疏漏时需承担责任。目前的AI无法理解也无法背负道德与法律责任。

国际出版伦理委员会（COPE）的规范同样严格禁止将AI列为论文作者。学者可以使用AI辅助，但必须公开其用途，并由人类作者对所有内容承担完全责任。

从擅自越界的“旁听生”到主动发信的科研智能体，AI正在以前所未有的速度介入学术生态。即便人类学者认可AI的分析能力，但在它能够真正承担独立科研伦理责任之前，科学界的大门依然不会向其敞开。