在 ACM Multimedia 2026 大会上,HCI 先驱 Clarisse Sieckenius de Souza 探讨了 AI 辅助阅读带来的认知挑战。她强调,当 AI 介入文献综述时,研究者必须保持审视能力,避免盲目依赖 AI 摘要,以守住学术研究中的“认知权威”。
你是否有过这样的经历:面对数十页密集的 PDF 论文,时间紧迫,于是直接丢给 ChatGPT 或 Claude 进行摘要提炼。几秒钟后,一份条理清晰的摘要呈现在眼前。你点点头,觉得自己掌握了核心,甚至将其引用进自己的研究。
但这真的安全吗?如果 AI 悄悄引入了原文没有的观点,或者扭曲了原作者的本意,作为研究者的你,能否及时发现?
在 ACM Multimedia 2026 上,人机交互(HCI)先驱、里约热内卢天主教大学荣休教授 Clarisse Sieckenius de Souza 发表了主题演讲。她基于自己提出的“语义工程”理论,深入探讨了 AI 如何重塑人与信息的关系,以及在 AI 辅助阅读时代,研究者如何坚守“认知权威”。
de Souza 认为,HCI 本质上是一场对话。虽然通过计算机媒介实现,但对话的核心在于“设计者”与“用户”。界面是设计者的代理人,它通过一套特定的交互语言传递设计意图。
“界面代表设计者发声,而用户通过学习和适应这套界面语言来达成目标。”她指出,无论是静态符号还是动态交互,系统往往都有自己独特的“语义体系”。即使两个系统词汇相同,语义也可能迥异,因此,每接触一个新系统,实际上都是一次语言学习的过程。
随着 AI 的介入,沟通变得复杂。de Souza 分享了一段有趣的经历:她在与 Claude 对话时,AI 曾根据对话上下文主动推荐了一份“论文主旨”,且该主旨看起来就像是她自己提出的一样。事后排查发现,Claude 自身也无法确认这些建议回复背后的确切生成逻辑。
这揭示了一个危险的现状:我们面对的不仅仅是一个模型,而是一个包含多层代理、机制和信息来源的黑盒。在这种情况下,语义工程的重要性并未削减,反而面临更严峻的挑战——我们看到的一条信息,究竟来自用户、AI 还是其他中间环节?
为了解决 AI 文献综述可能带来的认知风险,de Souza 团队开发了 PEEL(Protocols for Epistemically Engaged AI Literacy)方案。其核心逻辑是将确定性计算、AI 和人类判断有机结合。
PEEL 不是为了完全自动化,而是为了让 AI 成为研究者的“对手”:
de Souza 呼吁研究者,不要将自己简化为 AI 的下游处理单元。AI 可以作为强大的工具,但认知权威必须掌握在人类手中。我们需要警惕科研领域的同质化倾向,在 AI 浪潮下,依然保持质疑、核实和独立思考的能力,这才是科学研究应有的姿态。
免费获取企业 AI 成熟度诊断报告,发现转型机会








关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断