数百名专家对人工智能的生存威胁发出警报

数百名专家对人工智能的生存威胁发出警报百位专家对AI生存威胁敲响警钟 350位专家签署AI灭绝威胁声明警告;其中包括 OpenAI 的 Sam Altman、Google DeepMind 的 Demis Hassabis 和 Anthropic 的 Dario Amodei

“减轻人工智能灭绝的风险应该与流行病和核战争等其他社会规模的风险一起成为全球优先事项。”

这是由人工智能安全中心 (CAIS) 的 350 多名签署者签署的声明,其中包括世界著名的人工智能科学家、教授、首席运营官和许多其他知名人士。

其中包括 OpenAI 的首席执行官 Sam Altman;谷歌 DeepMind 首席执行官戴米斯·哈萨比斯 (Demis Hassabis);以及 Anthropic 的首席执行官 Dario Amodei,代表三个世界领先的 AI 公司。

对人工智能的监管是必要的

CAIS 的评论指出,“人工智能专家、记者、政策制定者和公众越来越多地讨论人工智能带来的广泛的重要和紧迫风险”,该声明“旨在克服这一障碍并展开讨论。

它还旨在为越来越多的专家和公众人物创造常识,他们也认真对待先进人工智能的一些最严重的风险。”

OpenAI 的 Sam Altman 一再强调人工智能的潜在危险,包括广泛的虚假信息、不可预见的经济冲击和大规模网络攻击,以及现在 – 潜在的人类灭绝。

为了解决日益强大的人工智能对人类造成的潜在不利后果,奥特曼强调了让监管机构和整个社会参与进来作为保障的重要性。

然而,他也强调了这样一个事实,即人工智能仍然是一种受人类控制的工具,只能通过人类的指导和输入来发挥作用。

从这个立场来看,许多人认为这样的电话只不过是散布恐惧,或者充其量是误解,但专家们不敢苟同。

在最近的 Lex Friedman 播客中,Altman 承认对 AI 有一定程度的担忧是理性的,并表示“不害怕一点点是疯狂的”,并且他认为我们表现出健康剂量是积极的对它的警惕。

数百名专家对人工智能的生存威胁发出警报 350位专家签署AI灭绝威胁声明警告;其中包括 OpenAI 的 Sam Altman、Google DeepMind 的 Demis Hassabis 和 Anthropic 的 Dario Amodei

未来5年将实现超级智能?

在最近接受《华尔街日报》采访时,谷歌 DeepMind 首席执行官戴米斯·哈萨比斯 (Demis Hassabis) 表示,他相信人工智能可以在未来五年内达到与人类相当的认知能力。

承认近年来取得的显着进步,哈萨比斯说:“我看不出有任何理由可以减缓这种进步。

“我认为它甚至可能会加速。所以我认为我们可能只需要几年时间,也许在十年之内,”表明他对该领域取得进一步重大进展的期望。

人工智能超越人类一般智能并获得超级智能的潜在影响包括人类控制的挑战甚至不可能,从而构成人类灭绝的风险。

一线希望

必须承认,人工智能在各个领域都具有众多优势。其中包括单调任务的自动化,从而提高效率和生产力,仅举几例。

人工智能使企业能够以更快的速度运营,为新功能和商业模式打开大门,并增强整体客户体验。

它还有助于研究和数据分析,有助于改进决策过程并减少人为错误的可能性。通过推动进步和协助重复性任务,人工智能在医疗领域也发挥着至关重要的作用。

它可以代表人类承担风险,从而营造更安全的环境。此外,人工智能有可能创造下一代工作场所,促进企业系统与个人之间的无缝协作。这反过来又允许将资源分配给更高层次的任务,进一步提高生产力和创新。

然而,在硬币的另一面,必须认识到潜在的威胁是非常真实的。

与智能和自主机器相关的风险多种多样,可能导致意想不到的灾难性后果。值得注意的是,对于超级人工智能对人类的威胁程度,专家们意见不一。

一些人预计,联网的人工智能将提高人类的效率,同时危及人类的自主权、代理权和能力。

了解人工智能可能存在的缺点并有效管理其风险至关重要。最终,人工智能的目标应该是增强人类智能而不是取代它。

本文来自互联网,不代表前途科技立场,如若转载,请注明出处:https://accesspath.com/tech/5847730/

(0)
NEXTECH的头像NEXTECH
上一篇 2023年6月2日 下午9:25
下一篇 2023年6月2日 下午9:25

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注