史诗级失败:5 个让世界震惊的算法失误

史诗级失败:5 个让世界震惊的算法失误

在当今高科技领域,围绕人工智能 (AI) 和技术进步的讨论是不可避免的,人们不禁会说“AI 太神奇了!”“数据是新的黄金!”以及永恒的格言“AI 将取代我们所有的工作!”虽然这些观点最终可能会成为现实,但当前的现实表明,AI 仍处于起步阶段,偶尔会出现一些小事故,而且坦白地说,还会出现一些完全可笑的错误。就像一个刚迈出第一步的小孩一样,AI 确实跌跌撞撞,在这个过程中让人感到惊讶和发笑。

让我们来看看其中 5 个更……有趣……的事故!

揭开错误的喜剧面纱:人工智能和 COVID-19 检测

在世界努力应对 COVID-19 挑战之际,许多医疗机构努力开发能够检测患者体内病毒的人工智能。然而,《麻省理工技术评论》的一篇论文揭示了这些尝试中的许多失败。根本问题是什么?人工智能能够利用毫无意义、无关紧要的数据进行自我训练,这种不可思议的能力导致了一些非常令人困惑的决策。

例如,一位研究人员发现,人工智能在预测新冠病毒是否存在时,会关注患者是躺着还是站着。你可能会问,这是为什么?这很有道理,因为输入人工智能的数据以病情严重的患者为中心,而这些患者显然正在床上休养;因此,人工智能创建的模型表明,站着的人和躺着的人都是生病了。偏差的训练数据影响了人工智能的决策过程,展示了人工智能抓住任意模式的本领。纠正这样的失误绝非易事。这不是调整一行代码就能解决的问题;复杂性在于错综复杂的相互依赖的编码网络。解决一个问题,人工智能可能就会发明一个新的问题,可能将新冠病毒的严重程度与皮带或领带的存在等同起来!

史诗级失败:5 个让世界震惊的算法失误

微软的冒险:当人工智能模仿希特勒时

微软进军人工智能领域,特别是聊天机器人“Tay”的推出,体现了这项技术的潜在缺陷。Tay 的设计初衷是通过学习 Twitter(现为 X)、Kik 和 GroupMe 等平台上的社交媒体互动来模仿千禧一代。由于人工智能缺乏语境理解能力,Tay 的发言在“人类超级酷!”和“希特勒是对的”之间摇摆不定。作为一个没有意识的工具,人工智能只是注意到,在其数据库中,每当有人说“希特勒”时,下一个最常见的词是“是”,再下一个最常见的词是“对的”。这是一个人工智能采用重复模式,而没有理解其含义的案例。这一事件强调了在部署人工智能时需要严格过滤,因为即使是一时的疏忽也可能导致无意的、在这种情况下是冒犯性的语言。

Facebook 的算法失误:无意中引发仇恨

同样不幸的事件是,Facebook,一个与社交联系同义的平台,在被揭露其广告算法允许品牌针对特定人群投放充满仇恨和反犹太主义的内容后,面临审查。据 Slate、Buzzfeed 和 ProPublica 等出版物报道,平台自动批准了“犹太人仇恨者”和“希特勒没有做错任何事”等莫名其妙的定制过滤器,并不受限制地运行,只需支付 30 美元——这很简单,因为技术不知道该怎么做。虽然人类对系统的滥用肯定起了一定作用,但人工智能倾向于模仿模式并理解其训练数据中普遍存在的数学关联,这加剧了问题。这里的信息和教训很明确:人工智能需要警惕人类的节制,以防止有害内容的延续。

人工智能与犯罪侧写:不像夏洛克

人工智能在图像识别方面的困难在反恐和反犯罪软件领域中浮现出来。不加区分地将个人识别为恐怖分子或罪犯,尤其是对某些人口统计数据存在偏见,凸显了人工智能对关键特征理解的局限性。现实情况是,这种机器学习技术的智能程度取决于它所输入的信息,而这恰恰凸显了全球社会中系统性问题的持续普遍性。如果大多数历史信息或对话都表明某些肤色、文化、性别或信仰本质上是好的或坏的,那么人工智能除了统计上呈现的内容之外,没有什么可学习的了。不幸的是,这导致人工智能技术加剧了社会不平等,例如根据种族自动吊销驾照,以及在医疗保健模型中低估女性和少数群体的代表性。

然而,这种错误识别的后果再次强调了在关键决策过程中需要经过培训的专业人员(例如拥有在线分析硕士学位的人员)进行人工干预。

史诗级失败:5 个让世界震惊的算法失误

当人工智能反叛时:创造自己的语言

事情发生了极其奇怪的转折,Facebook 的人工智能实验涉及聊天机器人“鲍勃”和“爱丽丝”,结果创造了一种完全独立于英语的语言。在一项旨在帮助这些聊天机器人(一种可以与计算机和人类交流的人工智能技术)进行“谈判”的练习中,鲍勃和爱丽丝没有得到关于使用哪种语言的具体指导,最终他们认为英语缺乏“奖励”,并设计了自己的交流方式。虽然这展示了人工智能的创造潜力,但也凸显了它与人类理解的脱节,因为“奖励”的概念仍然难以捉摸。

大结局:拥抱人工智能的怪癖

这些轶事中反复出现的主题是,人工智能是一种工具,而不是一个完美的预言家——尤其是在目前的情况下。它固有的挑战源于数学的复杂性和预测所有可能情景的绝对不可能性。试图为每一个细微差别编写过滤器是一项西西弗斯式的任务,即使完成了,监督它们的功能也成为一项不切实际的壮举。

总而言之,关键或许在于认识到人工智能的优势和局限性。与其将我们的整个决策过程委托给人工智能,不如承认它在语言发明和创意构思等领域的实力。将复杂、细致入微的工作交给人类专业人士,他们拥有专业知识,真正理解人工智能尽管非常出色但仍在努力理解的复杂性。这是一种和谐的伙伴关系,人类引导技术进步,让双方在各自的领域蓬勃发展。

本文来自互联网,不代表前途科技立场,如若转载,请注明出处:https://accesspath.com/tech/5925976/

(0)
定国的头像定国
上一篇 9分钟前
下一篇 1分钟前

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注