机器学习（ML）已在经济学、社会科学和商业决策领域扮演着越来越核心的角色。在公共部门，机器学习被广泛应用于所谓的“预测政策问题”：即政策制定者旨在识别最有可能面临负面结果的单位，并提前采取干预措施，例如精准投放公共补贴、预测地方经济衰退或预判人口迁徙模式。而在私营部门，类似需求的预测任务也层出不穷，例如企业需要预测客户流失率，或优化信用风险评估。无论是在公共还是私人领域，更准确的预测都意味着更高效的资源配置和更有效的干预措施。
为了实现这些目标，机器学习算法正越来越多地应用于面板数据。面板数据的特点是对同一单位在多个时间段内进行重复观测。然而，机器学习模型最初并非为面板数据设计，后者具有独特的横截面和纵向维度特征。当机器学习模型应用于面板数据时，存在一种隐蔽但严重的问题，即“数据泄露”的高风险。数据泄露是指在预测时本应无法获取的信息，意外地进入了模型的训练过程，从而虚高了模型的预测性能。在奥古斯托·切尔夸（Augusto Cerqua）、马可·莱塔（Marco Letta）和加布里埃尔·平托（Gabriele Pinto）于2025年发表在《牛津经济与统计公报》的论文《面板数据机器学习的误用与滥用》（On the Mis(Use) of Machine Learning With Panel Data）中，首次系统性地评估了面板数据机器学习中的数据泄露问题，为实践者提供了明确的指导方针，并通过一个使用美国县级公开数据的实证案例，详细阐述了数据泄露可能带来的严重后果。
数据泄露问题解析
面板数据结合了两种结构特性：一是时间维度（在不同时间点对同一单位进行观测），二是横截面维度（存在多个不同的单位，例如多个区域或多家企业）。标准的机器学习实践通常将样本随机分割成训练集和测试集，这种做法隐含地假设数据是独立同分布（i.i.d.）的。然而，当默认的机器学习程序（例如随机分割）应用于面板数据时，这一假设就会被打破，从而导致两种主要类型的数据泄露：
- 时间维度泄露（Temporal leakage）：未来的信息在模型训练阶段不当地渗入，导致预测结果看似异常准确，但实则脱离现实。此外，过去的某些信息也可能意外进入测试集，使“预测”变成了回顾。
- 横截面维度泄露（Cross-sectional leakage）：相同或高度相似的单位同时出现在训练集和测试集中，这意味着模型在训练时已经“见过”了大部分横截面维度的数据特征。
图1清晰地展示了不同的数据分割策略如何影响数据泄露的风险。在单位-时间层面上进行随机分割（图1的A部分）是最具问题的方式，因为它会同时引入时间维度和横截面维度的数据泄露。而其他替代方案，例如按单位分割（图1的B部分）、按组别分割（图1的C部分）或按时间分割（图1的D部分），则只能缓解其中一种类型的泄露问题，而无法完全消除另一种。因此，没有一种单一的策略能够彻底杜绝所有问题；最佳选择取决于具体的任务需求（详见下文），因为在某些情况下，某种形式的泄露可能并不是真正的隐患。
图1 | 不同分割规则下的训练集和测试集
备注：本示例中的面板数据以年份作为时间变量，县作为单位变量，州作为组变量。图片由研究者绘制。
两类预测政策问题及其应对策略
-
横截面预测（Cross-sectional prediction）：这类任务旨在描绘同一时期内不同单位之间的结果分布。例如，当某些地区的人均GDP数据缺失时，需要通过已知数据对其他地区的缺失值进行估算。在此类任务中，最佳的分割策略是按单位进行分割：将不同的单位分配到训练集和测试集中，而保留所有时间段的数据。这种方法能够有效消除横截面维度的数据泄露。尽管时间维度泄露依然存在，但由于此类任务并非以未来预测为目标，因此这不是一个实质性问题。
-
序列预测（Sequential forecasting）：这类任务的目标是基于历史数据预测未来的结果。例如，提前一年预测县级收入下降，以便及时启动早期干预措施。在此类任务中，正确的分割策略是按时间进行分割：用较早时期的数据进行训练，用较晚时期的数据进行测试。这可以有效避免时间维度的数据泄露。然而，横截面维度泄露依然存在，但由于任务是针对同一单位在不同时间点进行预测，因此这同样不是一个主要问题。
在这两种情况下，错误的做法都是采用单位-时间层面的随机分割（如图1的A部分所示），这种策略会使结果同时受到两种类型数据泄露的污染，并导致模型性能指标被误导性地夸大。
实践操作指南
为了帮助实践者，以下总结了在面板数据中应用机器学习时应遵循的一系列“要点”和“禁忌”：
- 根据研究问题选择合适的样本分割方式：对于横截面问题，应采用基于单位的分割；对于预测问题，则应采用基于时间的分割。
- 警惕预测变量引起的时间维度泄露：时间维度泄露不仅可能通过观测数据发生，也可能通过预测变量发生。在进行预测时，只应使用滞后变量或时间不变的预测变量。使用同期变量（例如，用2014年的失业率预测2014年的收入）在概念上是错误的，并且会造成时间维度的数据泄露。
- 针对面板数据调整交叉验证策略：大多数现成软件包中常见的随机k折交叉验证不适用于面板数据，因为它会将未来和过去的信息混合在一起。正确的做法是，对于预测任务，应使用滚动窗口或扩展窗口交叉验证；对于横截面预测，则应使用按单位/组分层的交叉验证。
- 确保模型在真正的“未见”数据上测试样本外性能：务必确保模型的样本外性能是在训练过程中从未遇到过的数据上进行测试的，以避免虚高的评估结果。
实证应用案例
为了具体阐述上述问题，一项研究分析了2000年至2019年间美国3058个县的平衡面板数据，并重点关注序列预测任务。该研究考察了两类任务：一是回归问题，即预测人均收入；二是分类问题，即预测下一年收入是否会下降。
研究人员运行了数百个模型，这些模型在分割策略、同期预测变量的使用、滞后结果变量的纳入以及所采用的算法（包括随机森林、XGBoost、Logit和OLS）方面均有所不同。这种全面的设计使得研究能够量化数据泄露如何虚高模型性能。图2展示了该研究的主要发现。
图2 | 预测问题中的时间维度泄露
A部分 – 分类任务
B部分 – 回归任务
该研究还指出，在经历大萧条等分位数漂移和结构性变化显著的年份中，模型准确性的高估现象会变得尤为突出，这使得其结果在政策制定方面极具误导性。
为何数据泄露如此重要？
数据泄露不仅仅是一个技术性的陷阱，它还可能带来真实世界中的严重后果。在政策应用中，一个在验证阶段看似高度准确的模型，一旦投入实际部署，可能会立即失效，从而导致资源错配、危机预警失灵或目标群体定位错误。在商业环境中，同样的问题可能导致糟糕的投资决策、低效的客户定位或对风险评估产生虚假的信心。当机器学习模型被设计为早期预警系统时，这种危险尤为突出，因为对虚高性能的错误信任可能导致代价高昂的失败。
相比之下，设计得当的模型，即使在理论上可能表现出较低的精确度，也能提供真实可靠的预测，从而为决策提供有意义的参考。
核心要点
机器学习有潜力彻底改变政策和商业领域的决策方式，但这仅限于其被正确应用的前提下。面板数据虽然提供了丰富的数据分析机会，却特别容易受到数据泄露的困扰。为了产出可靠的洞察，实践者必须将机器学习工作流程与具体的预测目标对齐，充分考虑面板数据的时间和横截面结构，并采用能有效防止过度乐观评估和虚假高准确度的验证策略。只有遵循这些原则，模型才能避免虚高性能的陷阱，转而提供真正帮助政策制定者合理分配资源、帮助企业做出明智战略选择的指导。鉴于机器学习在公共和私人领域面板数据应用中的快速普及，解决这些潜在的陷阱已成为应用研究当前的首要任务。
