政府顾问马克华纳警告可能的人工智能禁令

政府顾问马克华纳警告可能的人工智能禁令政府顾问 Mark Warner 警告可能的 AI 禁令 AI 委员会和“Faculty AI”的首席执行官 Marc Warner 敦促潜在的 AGI 禁令:安全、透明和负责任的决策至关重要。

政府 AI 委员会成员兼 Faculty AI 首席执行官 Marc Warner 表示需要考虑禁止高度先进的通用人工智能 (AGI) 系统。

Warner 强调了 AGI 高度透明、审计要求和增强安全技术的重要性。他认为,未来六个月到一年需要对 AGI 做出审慎的决策。

华纳的评论与欧盟和美国最近的声明一致,呼吁为人工智能制定自愿行为准则。

AI Council 是一个独立的专家委员会,提供有关 AI 的建议,它支持华纳的立场。

华纳加入人工智能安全中心,警告技术可能导致人类灭绝的潜在风险。

在唐宁街举行的一次会议上,Faculty AI 与其他科技公司一起与技术部长 Chloe Smith 讨论了必要的法规、机会和规则,以确保安全和负责任的 AI。

设置AI参数

华纳区分了执行特定任务的“狭义人工智能”和在各个领域拥有更广泛能力的通用人工智能。

他断言,AGI 系统更受关注,并且需要不同的法规,因为它们有可能超越人类智能。

为实现这一目标,Warner 建议限制 AGI 算法使用的计算能力可能是一种合理的方法。他还认为,最终应该根据复杂性或计算能力做出禁止算法的决定,而不是科技公司。

定位人工智能安全问题

批评者认为,对 AGI 的担忧分散了对现有 AI 问题的注意力,例如招聘和面部识别工具中的偏见。然而,Warner 断言,AGI 和现有技术都需要采取安全措施,这与汽车和飞机的安全需求相似。

虽然过度监管可能会引发人们对阻碍创新和阻止投资者的担忧,但华纳认为,英国可以通过优先考虑安全来获得竞争优势。他表示,安全对于从 AI 技术中获取价值至关重要,就像正常运转的引擎对于飞机旅行至关重要一样。

最近的英国人工智能监管白皮书“一种支持创新的人工智能监管方法”因没有建立专门的监管机构而受到批评。

尽管如此,英国首相里希·苏纳克强调了“护栏”的必要性,并强调了英国在该领域的潜在领导作用。

美国国务卿安东尼布林肯和欧盟专员玛格丽特维斯塔格也表达了自愿规则的紧迫性。

旨在规范人工智能的欧盟人工智能法案目前正在进行立法程序,但由于技术格局的快速发展,其全面实施可能需要两到三年的时间。

为了加快这一进程,将邀请行业利益相关者和其他人在几周内为自愿行为准则草案做出贡献。在最近的美欧贸易和技术委员会会议上,布林肯强调了建立对范围广泛的志同道合国家开放的自愿准则的重要性。

需要集体努力

围绕高度先进的通用人工智能 (AGI) 系统的监管和可能禁止的持续讨论反映了它们对整个人类的重要影响。

Warner 的警告和他从 AI 委员会获得的支持强调了仔细考虑 AGI 的透明度、可审计性和安全特性的必要性。

AGI 系统具有在各个领域超越人类智能的能力,这引发了人们对其对社会的潜在影响的担忧。如果任其发展,AGI 的指数级增长和自主运营能力可能会带来难以预见的风险。

这些风险包括潜在的意外后果、失控,甚至 AGI 有可能超越人类的决策能力,从而导致伦理、社会和经济影响,甚至人类灭绝。

通过认识到需要强有力的法规和安全措施,政府可以减轻与 AGI 相关的潜在风险。平衡创新与安全对于利用 AGI 的优势同时最大限度地减少威胁变得至关重要。

取得这种平衡可确保以负责任和合乎道德的方式开发 AGI 技术,防止出现有偏见的结果、数据隐私泄露和其他有害后果。

生存调节

为 AGI 建立健全的监管框架符合人类的长期利益。

各国政府应积极与行业专家、政策制定者和研究人员合作,以确保利用 AGI 技术造福社会。

这种合作可以促进 AGI 系统的透明度、问责制和公众信任,从而以符合人类价值观和目标的方式塑造它们的轨迹。

最终,今天就 AGI 的监管和治理做出的决定将对子孙后代产生重大影响。

通过谨慎和有远见地接近 AGI,我们有机会塑造一个未来,在这个未来,先进的人工智能将成为人类进步的强大工具,而不是潜在的威胁。

政府、组织和个人的集体努力对于驾驭这一变革性的技术格局和确保人类拥有积极和包容的未来至关重要。

本文来自互联网,不代表前途科技立场,如若转载,请注明出处:https://accesspath.com/tech/5847778/

(0)
NEXTECH的头像NEXTECH
上一篇 2023年6月3日 上午3:25
下一篇 2023年6月3日 上午3:32

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注