Anthropic联合创始人：AI不能由科技公司自行监管

Anthropic联合创始人Christopher Olah周一与教宗利奥十四世一同出现在梵蒂冈宗教会议厅，发表了可能是前沿AI公司领导者迄今为止最引人注目的承认：他所在公司开发的技术不能由开发公司安全监管。

Olah在教宗首部通谕《壮丽人性》的正式发布会上发言。这部通谕涵盖在人工智能时代维护人类尊严的广泛议题。

“每个前沿AI实验室都处于一系列激励和约束之下，这些激励和约束有时会与做正确的事相冲突，”Olah对在场的枢机主教、梵蒂冈官员和受邀嘉宾说。他敦促政府、宗教领袖和民间社会机构提供他认为至关重要的外部监督。

对就业的警告

Olah发言的第二个主题涉及就业。他告诉在场听众，存在“一种真实的可能性”，即AI将“大规模”取代人类工作。“如果发生这种情况，支持那些失业者将是一个具有历史意义的道德责任。”

这一声明是前沿AI实验室创始人最直接公开承认其公司开发的技术可能比劳动力市场吸收失业者更快地消除工作岗位。

通谕的要求

教宗利奥的通谕呼吁“解除”AI武装，建立强有力的法律框架，而非抽象的伦理呼吁。“仅仅援引抽象伦理是不够的；需要强有力的法律框架、独立监督、知情用户以及一个不放弃其责任的政治体系，”教宗写道。他多次批评权力和数据集中在少数私营企业手中，尤其是在对儿童和弱势群体的风险方面。

这份文件签署于5月15日，是教宗利奥十三世1891年通谕《新事物》135周年纪念日。

Anthropic与梵蒂冈的关系

Anthropic出现在通谕发布会上，标志着该公司与宗教机构数周来密切接触的高潮。3月底，Anthropic在旧金山总部接待约15名基督教领袖，举行了两天关于其聊天机器人Claude道德发展的峰会。梵蒂冈也于5月16日宣布成立新的人工智能委员会，这是天主教会首次正式协调其AI参与。

Olah并未声称他的公司置身于他所描述的压力之外。“像我们这样的公司，”他说，在“强烈的商业、地缘政治和个人压力”下运作，这些压力可能与社会更广泛的利益相悖。