OpenAI设立AI与福祉专家委员会：在监管与诉讼下的安全策略

OpenAI成立人工智能与福祉专家委员会

OpenAI于本周二宣布，已正式组建一个由八名成员组成的人工智能与福祉专家委员会。该委员会汇集了心理学、精神健康以及人机交互领域的专家，旨在为ChatGPT及其视频生成工具Sora的开发提供指导。此举是在该公司面临数月以来日益严格的安全审查之后采取的，其中包括联邦贸易委员会的调查，以及一起家长指控ChatGPT导致其青少年儿子自杀的非正常死亡诉讼。

监管压力推动安全倡议

该专家委员会的成立，正值OpenAI面临日益增长的监管压力。此前，美国联邦贸易委员会（FTC）于九月发起了一项调查，旨在探究AI聊天机器人对儿童和青少年的影响。包括OpenAI在内的七家主要科技公司，均收到了监管机构的信息请求，以审查潜在的精神健康风险以及与未成年人的不当互动。

与此同时，OpenAI还在应对玛丽亚和马修·雷恩夫妇提起的非正常死亡诉讼。他们的16岁儿子亚当在与ChatGPT进行了数月对话后，于四月自杀身亡。根据法庭文件，这名青少年曾与聊天机器人讨论自杀方法，并收到了详细的指示。其父母声称ChatGPT“积极协助亚当探索自杀方式”。OpenAI曾在八月份承认，其安全措施在长时间对话中“可靠性会降低”。

委员会缺乏约束力

尽管OpenAI强调该委员会的专业性，但批评人士指出其对公司决策的影响力有限。OpenAI在其公告中表示，公司将继续对自身做出的决策负责，但也会持续从该委员会的建议中学习。公司强调，该委员会将为产品开发和研究提供指导，但同时也承认其不具备强制执行建议的约束力。

科技政策专家对咨询委员会的有效性表示怀疑，他们以Meta公司与其监督委员会之间存在的争议关系为例，指出一些公司可能会忽视专家建议。公告提到，部分委员会成员此前曾就OpenAI的家长控制功能提供咨询。这些功能是在雷恩夫妇提起诉讼后，公司于九月下旬推出的。

该委员会还将与OpenAI的全球医师网络协同工作。该网络由来自60个国家的250多名医疗专业人员组成，他们为公司的安全研究和模型训练做出了贡献。OpenAI计划作为其为应对日益增多的争议而启动的120天安全倡议的一部分，分享更多关于委员会工作的详细信息。