前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
AI 大模型/11.16 · 15:59/5 MIN/编译自 雷锋网/1 阅读

HCI 先驱 de Souza:当 AI 代替人类阅读,知识的权威归谁?

在 ACM Multimedia 2026 大会上,HCI 先驱 Clarisse Sieckenius de Souza 探讨了 AI 辅助阅读带来的认知挑战。她强调,当 AI 介入文献综述时,研究者必须保持审视能力,避免盲目依赖 AI 摘要,以守住学术研究中的“认知权威”。

你是否有过这样的经历:面对数十页密集的 PDF 论文,时间紧迫,于是直接丢给 ChatGPT 或 Claude 进行摘要提炼。几秒钟后,一份条理清晰的摘要呈现在眼前。你点点头,觉得自己掌握了核心,甚至将其引用进自己的研究。

但这真的安全吗?如果 AI 悄悄引入了原文没有的观点,或者扭曲了原作者的本意,作为研究者的你,能否及时发现?

在 ACM Multimedia 2026 上,人机交互(HCI)先驱、里约热内卢天主教大学荣休教授 Clarisse Sieckenius de Souza 发表了主题演讲。她基于自己提出的“语义工程”理论,深入探讨了 AI 如何重塑人与信息的关系,以及在 AI 辅助阅读时代,研究者如何坚守“认知权威”。

界面即对话:如何理解机器语言

de Souza 认为,HCI 本质上是一场对话。虽然通过计算机媒介实现,但对话的核心在于“设计者”与“用户”。界面是设计者的代理人,它通过一套特定的交互语言传递设计意图。

“界面代表设计者发声,而用户通过学习和适应这套界面语言来达成目标。”她指出,无论是静态符号还是动态交互,系统往往都有自己独特的“语义体系”。即使两个系统词汇相同,语义也可能迥异,因此,每接触一个新系统,实际上都是一次语言学习的过程。

AI 时代的沟通混乱

随着 AI 的介入,沟通变得复杂。de Souza 分享了一段有趣的经历:她在与 Claude 对话时,AI 曾根据对话上下文主动推荐了一份“论文主旨”,且该主旨看起来就像是她自己提出的一样。事后排查发现,Claude 自身也无法确认这些建议回复背后的确切生成逻辑。

这揭示了一个危险的现状:我们面对的不仅仅是一个模型,而是一个包含多层代理、机制和信息来源的黑盒。在这种情况下,语义工程的重要性并未削减,反而面临更严峻的挑战——我们看到的一条信息,究竟来自用户、AI 还是其他中间环节?

PEEL:守住研究者的判断力

为了解决 AI 文献综述可能带来的认知风险,de Souza 团队开发了 PEEL(Protocols for Epistemically Engaged AI Literacy)方案。其核心逻辑是将确定性计算、AI 和人类判断有机结合。

PEEL 不是为了完全自动化,而是为了让 AI 成为研究者的“对手”:

  1. 保持原文声音:PEEL 生成的摘要会尽可能保留原文的结构、章节安排乃至第一人称表达,便于研究者追溯来源。
  2. 可视化验证:通过 Voyant 等分析工具,PEEL 将原文与摘要进行对照,识别哪些语义关联发生了变化,哪些新术语被引入。
  3. 人类审查权:AI 负责压缩和转换,但最终解释权交还给人类。研究者不再被动接受答案,而是通过对比分析,判断 AI 是否忠实于原文,从而规避“幻觉”和偏见。

结语

de Souza 呼吁研究者,不要将自己简化为 AI 的下游处理单元。AI 可以作为强大的工具,但认知权威必须掌握在人类手中。我们需要警惕科研领域的同质化倾向,在 AI 浪潮下,依然保持质疑、核实和独立思考的能力,这才是科学研究应有的姿态。

标签:人工智能HCI推理学术研究

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

//

24小时热榜

初创公司 Drogue 获 2000 万美元融资,拟建海洋能供电浮动数据中心
TOP1

初创公司 Drogue 获 2000 万美元融资,拟建海洋能供电浮动数据中心

美法院裁定禁止政府向苹果与 Meta 施压以关停 ICE 追踪应用
TOP2

美法院裁定禁止政府向苹果与 Meta 施压以关停 ICE 追踪应用

3

FBI 警告:黑客利用 AI 工具 ARTEX 发动自动化网络攻击

21小时前
FBI 警告:黑客利用 AI 工具 ARTEX 发动自动化网络攻击
4

脑机接口新突破:ALS患者重获语言能力

21小时前
脑机接口新突破:ALS患者重获语言能力
5

AI 基础设施商 Fireworks AI 遭入侵,波及 Cursor、Uber 等多家公司

21小时前
AI 基础设施商 Fireworks AI 遭入侵,波及 Cursor、Uber 等多家公司
6

新加坡数据中心公司 Megaspeed 否认涉嫌违规转运 Nvidia 芯片

21小时前
新加坡数据中心公司 Megaspeed 否认涉嫌违规转运 Nvidia 芯片
7

硅谷巨头集体涌入AI制药:技术底座与自研药的殊途同归

17小时前
硅谷巨头集体涌入AI制药:技术底座与自研药的殊途同归
8

居民抗议难挡政府争抢:美国AI数据中心背后的税收博弈

17小时前
居民抗议难挡政府争抢:美国AI数据中心背后的税收博弈
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断