Anthropic公开征集AI硬问题

谁来决定AI的规则？

AI能给孩子们一个更好的未来吗？

AI会让世界变得更危险吗？

AI能帮助科学家治愈疾病吗？

人们对于AI有很多尖锐的问题。回答这些问题，是Anthropic的工作。

许多人对AI持积极态度。他们每天都在使用AI，看到了AI在减轻工作和生活负担、改变学习方式、加速科技进步、创造新的繁荣来源，以及解决我们面临的最大医学和社会问题方面的潜力。

但也有很多人抱有严重的担忧。一些人担心AI可能导致失业；一些人害怕它会贬低创造性工作的价值；还有人关注人类的主体性——AI可能影响我们独立思考、建立人际关系和生活意义的能力。许多人担心AI能力落入坏人之手意味着什么，并质疑收益是否大于代价。

在下面的视频中，你可以听到我们与一些人交流时他们表达的希望与担忧。

观看视频

Anthropic是一家公益公司——我们的使命是确保先进AI模型的好处并降低其风险。这一公益使命促使我们投入AI安全措施以减少滥用风险；研究AI模型的行为和内部工作机制，以帮助我们将它们对齐到有益目标；免费向科学家提供我们的AI模型；并启动了一个奖学金项目，将早期职业Claude用户与非营利组织配对，以扩展AI的益处。

要真正服务于公共利益，我们需要充分了解公众对这项新技术的希望和担忧。作为我们硬问题新倡议的一部分，我们正在采取进一步措施，了解人们对各种AI相关话题的看法和问题，并透明地记录我们在实现公益目标方面的进展。

我们已经打下了基础，向数千人询问了他们对AI的看法：

• 我们启动了Anthropic公共记录——一项公开调查，首轮询问了5.2万名美国人，请他们列出对这项技术最大的期望和担忧；
• 我们通过Anthropic访谈员调查了81,000名Claude用户，覆盖159个国家和70种语言；
• 我们组织了数十次线下焦点小组并召集了会议，参与者是那些工作和传统与AI所引发问题相关的群体；
• 我们一直在研究通过匿名真实世界数据对Claude的使用情况。

我们创建了Anthropic研究所——公司内部的一个研究机构，目标是应对AI给社会带来的最大挑战——并且早在公司成立初期，我们的长期利益信托就一直在公正地监督我们推进公益使命的有效性。

现在，我们明确邀请你向我们发送你最棘手的AI问题：关于AI对就业、社会和家庭影响的问题；关于我们如何实现AI在科学和医学领域巨大潜力的问题；以及关于人类历史上最强大的技术之一将带我们走向何方的问题。

作为回报，我们将公开追踪并报告为解决这些问题所采取的具体行动，并且会清楚地说明我们在哪些方面可能未能达到既定目标。

要查看其他人提出的问题并分享你自己的问题，请访问我们的硬问题网站。