欧盟AI法案启示：AI产品的人本设计

欧盟AI法案将人类监督列为高风险AI的硬性要求。这并非简单的合规动作，而是一场设计哲学的重塑：最好的AI产品从共情开始，先理解人，再谈算法。

我在 Medium 上读到一篇文章，原标题已经说明一切：The Human in the Loop — Following EU AI Act to build Human-Centric AI products。虽然原文页面已经失效，但观点值得展开。太多AI团队沉迷于模型参数和准确率，却忘了产品最终要在人的日常生活中落地。

人类监督不是可选项

欧盟AI法案按风险将AI系统分为四档：不可接受、高风险、有限风险、极低风险。招聘、信贷、医疗诊疗这类高风险场景，强制要求人类监督（human oversight）。这不是在代码里加一个“人工确认”开关那么简单。它要求系统在设计阶段就明确：哪些决策必须由人做出，哪些可以交给算法。

人机协作（human-in-the-loop）常被误解为“找个专家看看数据”。真正的人本设计，是把人当作目标而不是制约。举例来说，某银行的贷款审批系统，模型给出拒贷结论时，必须生成可读的解释，并允许客户经理推翻结果。但如果界面设计糟糕、缺乏培训，客户经理很可能机械点击“同意”了事。监督机制反而成了摆设。

从算法优先转向共情优先

为什么最好的AI产品从同理心开始？因为算法回答“怎么做”，同理心回答“为什么做”。爱奇艺的推荐算法能优化点击率，但用户真正需要的是有价值的推荐，而不是不断刺激多巴胺的短视频流。网易云音乐把评论区做成产品，正是先理解了用户的情感需求，再设计推荐逻辑。

AI产品经理的核心工作不是调超参数，而是走进用户的使用场景，感受他们的挫败和惊喜。一个拒绝贷款的老农，一个刚被误诊的焦虑患者，面对同样的AI输出，感受天差地别。同理心能帮助产品团队发现算法盲区。

欧盟法案给中国企业的三个信号

第一，合规不是成本，而是信任资产。欧盟市场人口不小，但这不意味着中国企业只能被动适应。以更高标准设计产品，恰恰能建立差异化优势。

第二，从工具到伙伴。AI产品不应只是功能集合，而要在关键时刻传递“可控感”。滴滴的行程分享、微信的转账风险提示，都是把控制权交还给用户的设计。

第三，透明可解释。百度健康的AI问诊工具会明确告知“这是参考建议，不能替代医生”，这种透明反而赢得了用户信任。欧盟法案强调可解释性，本质上就是要求产品说人话。

落地人本设计的三个步骤

1. 用户研究前置。不要先做算法再找场景。先描绘用户的决策流程，找出哪些环节需要AI辅助，哪些环节必须保留人的判断。
2. 设计人类角色。在系统架构中明确“人在哪里”。定义人类需要看什么信息、拥有什么权限、如何行使否决权。
3. 建立反馈闭环。让人类监督行为反向改进模型。当用户反复拒绝某个推荐时，系统需要分析原因并更新规则。

最后

AI不是洪水猛兽，也不是万能钥匙。真正值得追求的，是那些让普通人生活更体面的产品。这需要工程师和设计师把目光从模型指标上移开，看向使用产品的人。欧盟AI法案也许显得繁琐，但它提醒我们：技术越强大，越需要人的温度。