前途科技前途科技
  • 洞察
  • 服务
  • 关于
  • AI 资讯
    • 快讯
    • 产品
    • 技术
    • 商业
    • 政策
    • 初创
  • 洞察
  • 资源中心
    • 深度研究
      • AI 前沿
      • 案例研究
      • AI 知识库
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们

机器能续写故事,证据跟得上吗?

洞察2026年8月6日· 9 分钟阅读0 阅读

两个系统可能指向同一组历史数据,却对未来给出截然不同答案。生成式AI能用逼真轨迹掩盖证据空缺,但真正能裁决政策反事实的,只有设计得当的实证据实验。本文提出“反事实盲目性”,说明生成结果不能代替证据。

配图

两个递归历史从不同路径汇合到同一观测状态,再走向不同未来

同一份数据,可能来自两种不同的机制。两条递归历史走过不同的早期状态和动作,今天恰好落在同一个记录点上;从这一点出发,生成器可以画出一条平滑的延续,但另一个同样拟合今天记录的递归系统,会画出另一条未来。

宏观政策里就有这种场景。央行看到的“今天”通常是通胀、产出和政策利率组成的向量。压缩成这个向量之后,来时的路被丢掉了:一个经济体是经历了持久的预期重锚,还是只靠暂时的供给缓解稳住了预期,两者对降息周期的反应完全不同。如果路径会改变政策响应,当前向量本身无法挑出一条可信的政策路径。

动画只是把问题压缩后可视化。形式化结论更强:即使保留完整的动作标注历史,只要两个系统在每一种可允许设计下都给出相同的历史分布,它们仍然可能对同一个新政策路径给出不同答案。

我把这个差距叫作反事实盲目性(counterfactual blindness)。

新政策路径制造新的证据问题

预测是对已观测过程的延续。反事实问题问的是记录之外的动作:持续降息会怎样?这个问题更难,因为决策是递归的。今天的动作改变明天的状态;明天的状态决定哪些动作可及、哪些结果会出现、机构明天能收集到什么证据。央行按政策规则行动,利率影响资产价格、预期、信贷和定价,这些又变成下一次会议的数据。政策本身在帮助制造未来用来判断政策的证据。

大型历史档案沿着机构实际走过的路径可能很密,对没走过的路径几乎沉默。作为历史记录它完整,但对眼前这个问题不完整。生成式AI让这种沉默更难被发现:模型可以在没有任何依据的政策边缘上生成光滑轨迹和几千条合成观测。输出细节增长得比历史对照快得多。

如果两个递归宏观系统在你允许的每一种真实证据设计下都给出相同的观测历史分布,却对“持续宽松”给出不同答案:一个预期锚定、通胀代价很小;另一个宽松重新加速通胀,因为表面稳定只是暂时的。生成场景再逼真,也决定不了谁对。

我写了一篇论文《Counterfactual Blindness》来说明这个问题。

第一步:生成不能修复证据上的平局

更长的历史能打破平局吗?定理1处理的是这种补救被耗尽之后的局面:两个维持的递归系统在一切可允许的真实证据设计下统计上不可区分,却对政策路径下的结果分布给出实质性不同答案。

任何估计器在两个系统下看到的是同分布的证据。AI生成器也一样,它的系统特定证据是动作标注历史,外加共同外部信息和独立随机性,所以输出在两个系统下同分布。如果两个目标定律相距超过容差的两倍,没有一种共同可实现的报告能同时有效。

如果两个世界在每种可允许设计下都产生相同分布的动作标注历史,却需要互不相容的反事实答案,那么对这些证据做任何后处理,都无法一致地恢复正确答案。

不是每个未解决的潜在细节都会造成盲目性。如果所有仍与证据兼容的目标定律,都在某个共同报告的容差范围内,机构可以继续不知道隐藏机制,但不损害这次使用。当未解决差异触及目标时,盲目性才出现:两个系统在观测上被拴在一起,却没有任何共同反事实报告对两者都有效。

多个观测等价系统产生相同证据,却给出相距太远的目标定律,无法共享一个有效许可

回到两个经济体。如果每种可行的政策历史在“持久重锚”和“暂时供给缓解”下分布相同,而两个系统对“持续宽松”给出实质性不同结局,合成路径可以像任何一种未来,却解不开这个结。生成器没有收到任何能区分两种机制的观测。一个打磨过的场景会掩盖这个未解决的选择。

两个问题必须分开:可行证据能否区分幸存系统?一个报告能否在容差内覆盖它们的目标?交叉后得到四种情况。

四类可信度:横轴是可观测区分性,纵轴是共同可许可性

对政策分析师来说,潜在机制只有在改变目标时才重要。如果两个系统在建议的宽松路径下给出几乎相同的分布,一个范围受限的报告仍然有效,机制悬而未决也没关系。困难的情况是:可行证据不可区分,政策目标互不相容。此时,一个新的真实证据设计如果有用,一定是因为它能把这两个系统分开。

第二步:多少真实变异能买到有用信息?

可允许证据菜单可以包含传播实验、随机信息处理,或者其他机构真能做的标注干预,但不一定包含随机利率路径。两个设计可以用同样多的随机化,却把变异放在不同边际上。一个扰动的是竞争对手系统几乎做出相同预测的公告;另一个改变的是它们传递方式差异很大的信息。

分配熵只记录设计预算,不记录方向。政治、福利和实施成本仍然取决于具体应用。信息取决于哪些标注动作拿到了随机化概率。

两个标注实验有相同分配熵,但针对分歧的设计带来大得多的目标相关分离

以央行为例:小幅常规利率变异的组合,对“长期宽松期间预期是否仍然锚定”可能提供不了多少证据。在竞争对手系统分歧的传播或政策边际上做变异,同样熵成本下信息量大得多。一旦设计触及这样的边际,新的真实批次就能缩小目标误差。

定理2:熵预算限制可行设计菜单,标注动作决定目标相关分离,信息前沿以金色阶梯上升

定理2把熵预算和目标相关信息分开。它搜索熵预算内所有设计分配,选择最能分离“给出不同政策答案的最难系统对”的分配。如果可行分配里总有一对目标分歧系统被留下,信息率就是零,更多批次只是复制同样的模糊。如果某个分配能分离所有分歧对,最坏误差随新鲜批次指数收缩。对应下界有同样的指数阶,最多差一个因子四,只有一个设计可用时是二。这不是在断言精确指数或完全自适应最优。

有些问题在任何可行的随机化预算下都是盲的,熵本身无法给设计排序。真实动作的变异只有经过反事实世界分歧的渠道,才有用。

样本量问题应当排在设计问题之后。额外的观测只有到达目标分歧系统分离的边际,才累积有用信息。有了信息丰富的设计,剩下的问题是序列式的:每批之后,目标集是否已经窄到能支持当前的政策反事实?

第三步:反事实许可应当知道何时停止

机构按可允许的真实证据设计收集一系列批次。每批之后,更新仍与证据兼容的递归系统集合,再把这些系统映射到它们对建议宽松路径给出的反事实结局定律。然后问:真实证据还支持的目标定律,能否全部装进一个满足容差的报告?

这个共同报告,就是反事实许可(counterfactual license)。

三路决策:当前目标集进入PASS、CONTINUE或结构性失败

定理3把当前目标集送过三道阀门。

  • PASS:幸存的目标定律都在允许半径内。机构可以为这个政策路径、状态区域、结果坐标和期限使用生成结果。这是有范围的许可。一个降息路径通过,不代表所有政策规则、宏观状态、结果或期限都通过。流程不需要识别那些与本次决策无关的潜在差异。
  • CONTINUE:还没到PASS,也没到永久结构性失败。在可学习分支上,下一个真实证据设计会改善幸存系统中的分离。AI可以帮忙设计实验,合成经济可以帮忙测试代码、压力测试政策规则、比较候选采样方案,但不能算作新的真实证据。
  • 结构性失败(STRUCTURAL FAIL):一个不寻常的批次可能暂时把一组可行系统移出当前置信集,后来的证据又可能把它放回来。当前许可用的集合必须保持可逆。要宣布结构性失败,流程需要保留一份由任意时刻有效检验构建的不可逆记录,只有在这份记录排除了在所有最丰富可行设计下仍能支持有效许可的每一个类别之后,才允许。如果预算先用完,机构只能暂不发证,不是学习不可能。

在有限定理的可学习分支上,期望停止时间随所需置信度的对数增长,随目标相关信息率下降。持续通胀应用使用一个独立的高斯论证,它控制任何数据依赖日期的无效PASS,但不继承完整结构性失败保证;它的统计路径在PASS和CONTINUE之间移动,资源耗尽就WITHHOLD。

三块面板:诊断证据平局、测量哪些真实实验能打破、认证剩余不确定性何时允许使用

生成的反事实欠我们什么

在生成数据进入决策之前,应该先回答五个问题:

  1. 干预路径是什么?说清动作序列、状态区域、结果和期限。
  2. 什么真实记录支持这条路?大型档案不自动等于相关证据。
  3. 哪些递归系统仍然兼容可行证据?要紧的歧义是那些经过真实证据菜单后仍然活下来的。
  4. 这些系统能否共享一个有效目标许可?如果能,未解决的潜在差异可能无害。
  5. 如果不能,哪个真实实验能把它们分开,什么时候该停?生成数量不能替代这一步。

开会前,分析师可以往降息路径里填入几千条通胀、就业、产出和金融条件的合成轨迹。场景可能在简报材料准备好之前就做好了。但剩余的证据问题很精确:哪些真实观测能区分同一个当前状态背后的递归系统?这些观测支持这条政策路径吗?

生成的路径只是可能;记录还没有证明它就是可信的那条。

标签:反事实盲目性证据设计央行政策

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

会打字,就能"拍"电影:ScriptTask 开放限量内测
置顶

会打字,就能"拍"电影:ScriptTask 开放限量内测

//

24小时热榜

TOP1

289k页文档自监督编码器:从零训练JEPA全复盘

多阶段检索:一次 API 调用,融合稠密+稀疏+过滤
前途科技前途科技
服务关于快讯技术商业报告
前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
TOP2

多阶段检索:一次 API 调用,融合稠密+稀疏+过滤

3

给编码代理装上“监工”:可靠循环工程实践

2小时前
4

机器能续写故事,证据跟得上吗?

2小时前
机器能续写故事,证据跟得上吗?
5

基础模型的崛起:语言只是第一块试验田

2小时前
基础模型的崛起:语言只是第一块试验田
6

AI教AI:训练监督链正在被改写

2小时前
AI教AI:训练监督链正在被改写
7

Medium Day 2026:AI时代的写作复兴指南

2小时前
Medium Day 2026:AI时代的写作复兴指南
8

为什么软件行业需要“编排者”?

2小时前
为什么软件行业需要“编排者”?
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断