RLHF 奠基人之一 Paul Christiano 正式加入 OpenAI 基金会董事会及安全委员会。他的加入强化了 OpenAI 的安全治理体系,将前沿对齐研究与政府监管经验引入重大治理决策中。

OpenAI 宣布任命 Paul Christiano 加入 OpenAI 基金会(OpenAI Foundation)董事会。同时,他将担任 OpenAI Group PBC 董事会的无投票权观察员。
此外,Paul 还将加入基金会董事会下设的安全与保障委员会(Safety and Security Committee, SSC),与委员会主席 Zico Kolter 紧密合作。该委员会负责全面监督 OpenAI 所有实体的安全与保障实践,包括营利性质的 OpenAI Group PBC。
Paul 拥有跨越两届美国政府任期的政策与技术经验。他曾担任美国商务部国家标准与技术研究院(NIST)旗下人工智能标准与创新中心(CAISI)的高级技术顾问。在 CAISI 及其前身美国人工智能安全研究所(US AI Safety Institute)任职期间,Paul 负责评估前沿 AI 模型(重点关注涉及国家安全风险的能力),并主导研究降低相关安全风险的应对方案。
Paul 也是非营利研究机构对齐研究中心(ARC)的创始人,该机构致力于让人工智能系统与人类利益保持一致。在 2017 至 2021 年间,Paul 曾负责领导 OpenAI 的对齐研究,是基于人类反馈的强化学习(RLHF)领域的奠基人之一。重返 OpenAI 后,他将以技术专长为基石,为机构的关键治理决策提供独特视角,助力实现让通用人工智能(AGI)造福全人类的长期目标。
当前 AI 模型能力正迈入全新阶段,确保技术演进与严格的安全、对齐和治理规范同步推进变得愈发紧迫。在整个学术生涯中,Paul 一直高度重视先进 AI 可能带来的灾难性风险,并多次呼吁开发者必须在系统能力进入高危水平前做好充足准备。作为行业内审视安全防护是否到位的独立声音,他的加入将促使 OpenAI 敢于挑战既有假设,在重大战略决策中强化事实依据、防护措施与问责机制。
OpenAI 基金会是一家慈善组织,致力于确保 AI 技术普惠全人类。作为一个独立的非营利机构,该基金会独立开展慈善业务,同时对 OpenAI Group PBC 保持治理控制权并持有重大股权份额。基金会通过设立资助基金、行业合作以及各项公益计划,支持科学发现、强化公民社会建设,加速扩大 AI 的普惠潜力。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断