在迄今为止最大规模的人工智能 (AI) 研究人员调查中，大多数人表示，由于超人类人工智能的可能发展，人工智能技术有 5% 的可能性对人类构成生存威胁。
该调查结果来自一项涉及 2,700 名人工智能研究人员的调查，他们在六场领先的人工智能会议上展示了他们的工作，这是迄今为止最广泛的同类调查。参与者被问及对即将到来的人工智能里程碑的潜在时间表以及这些进步的积极或消极社会影响的看法。据《新科学家》报道，近 58% 的研究人员表示，人类灭绝或其他与人工智能相关的严重不利后果的可能性为 5%。
该研究还显示，研究人员预计人工智能的重大里程碑，例如创作与人类创作的作品无法区分的音乐，将比最初预期的更早发生。
该论文的作者之一、加州机器智能研究所的 Katja Grace 表示：“这是一个重要信号，表明大多数人工智能研究人员并不认为先进人工智能毁灭人类这一说法非常难以置信。” “我认为这种对非微小风险的普遍信念比确切的风险百分比更能说明问题。”
人工智能研究界的许多人认为，超人类人工智能的潜在出现很有可能导致人类灭绝，尽管围绕这些风险存在相当大的分歧和不确定性。这项调查是迄今为止规模最大的一次调查，收集了人工智能研究人员的见解，这些研究人员最近在六场顶级人工智能会议上展示了他们的工作。
研究结果进一步强调了这样一个事实：相当一部分人工智能研究人员并不否认先进人工智能对人类构成严重威胁的可能性。机器智能研究所的 Katja Grace 强调了普遍相信不可忽视的风险的重要性，而不是仅仅关注具体的百分比数字。
然而，凯斯西储大学的埃米尔·托雷斯表示，无需立即恐慌。他们指出，人工智能专家调查在预测未来发展方面的记录存在问题，并援引 2012 年的一项研究表明，专家预测并不比公众舆论更准确。
将当前的调查与 2022 年的版本进行比较，许多人工智能研究人员现在预计人工智能将比之前的预测更早实现某些里程碑。这与 2022 年底 ChatGPT 和类似模型等人工智能聊天机器人服务的广泛部署相吻合。
尽管人们担心人工智能的行为方式与人类价值观不一致，但一些人认为，当前的技术不会造成怀疑论者预测的灾难性后果。哲学教授 Nir Eisikovits 认为，人工智能系统无法做出复杂的决策，也无法自主访问关键基础设施。
虽然对人工智能消灭人类的恐惧引起了人们的关注，但《自然》杂志的一篇社论认为，更直接的社会问题在于决策有偏见、工作岗位被取代以及独裁政权滥用面部识别技术。这篇社论呼吁关注实际风险和解决这些风险的行动，而不是危言耸听的叙述。
人工智能具有人类水平智能的前景提出了人工智能系统创造其他人工智能的理论可能性，从而导致不可控的“超级智能”。作者 Otto Barten 和 Joep Meindertsma 认为，人工智能实验室的竞争本质会激励科技公司快速创造产品，这可能会忽视道德考虑并承担风险。他们警告说，历史模式表明人类并不擅长预测新技术的未来后果。
研究人员写道，人类“历来不太擅长预测新技术的未来外部性”。
您可以从下面的研究中了解更多信息。
数以千计的人工智能作者探讨人工智能的未来 (1)
