BSI:面部识别技术如何保持合乎道德

BSI:面部识别技术如何保持合乎道德 BSI 发布了新指南,以确保人工智能技术继续成为社会的良性力量。BSI 发布有关面部识别工具安全和道德使用的新指南,因为人们对其开发相关的道德问题提出了担忧

预计到 2028 年面部识别行业价值将增长至 134 亿美元,人们对其发展安全性的担忧也预计会增加。

作为回应,英国标准协会 (BSI) 发布了新的指导方针,以确保该技术继续成为社会的良性力量。该指导方针名为《面部识别技术:视频监控系统中的道德使用和部署》,旨在帮助企业应对与使用面部识别技术相关的道德挑战,并建立对它的更大信任。

该公司的研究发现,到 2030 年,全球 40% 的人预计将在机场使用生物识别(面部、语音或指纹)。

随着技术的不断进步,人们对面部识别的使用存在潜在的担忧,例如侵犯权利、人工智能偏见、数据盗窃以及依赖不准确的数字系统的风险。

建立公众对人工智能的信任

人工智能用于面部识别工具正变得越来越普遍,尤其是出于保障公众安全的安全目的。它的工作原理是将个人的身体特征映射到图像中,然后将其与数据库中存储的其他图像进行比较,以验证相似性或识别特定位置的个人。

越来越多的使用案例引发了人们对使用此类技术的道德问题的广泛讨论,尤其是涉及与种族或性别差异相关的错误率。据 BSI 称,2022 年对警方使用该技术的审计发现,部署经常未能满足最低道德和法律标准。

该组织在之前的人工智能信任度民意调查中发布了有关面部识别的指导意见,该调查发现,超过四分之三(77%)的人认为对人工智能的信任对于其用于监控至关重要。

为了减轻人们的担忧,新的行为准则是为使用或监控视频监控系统和生物识别面部技术的企业而设计的。它为面部识别技术的积极使用提供了适当的保护措施指导,包括将其与人工干预结合使用,以确保在采取任何行动之前准确识别。

该指南还涵盖了其在治理和问责、人力和监督、隐私和数据治理、技术稳健性和安全性、透明度和可解释性、多样性、非歧视和公平性方面的适用性。

在技术可以自主运行的验证场景中,该标准通过确保训练数据包括来自不同人口群体、各种照明水平和摄像机角度的数据集,为技术的学习设置了护栏。这是为了确保消除不准确性并降低风险以避免偏见。

仅在 2022 年,南加州大学的研究人员就发现人工智能使用的“事实”中存在高达 38.6% 的偏见。

致力于推进安全人工智能的未来

BSI 标准总干事 Scott Steedman 表示:“人工智能面部识别工具具有检测和监控潜在安全威胁的能力,有望成为推动社会进步的驱动力,造福社会。该行为准则旨在帮助组织应对使用 FRT 系统所带来的道德挑战,并最终建立对其使用的信任。

“它旨在嵌入最佳实践,并为组织可以采取的适当护栏提供指导,以维护公民权利并消除系统偏见和歧视。”

这些标准是在欧盟《人工智能法案》获得批准的背景下出台的,该法案旨在建立一个框架来应对快速变化的数字环境中与人工智能相关的风险。

在人工智能带来的深度伪造和虚假信息问题盛行的时代,企业必须解决这些问题,以安全和合乎道德的方式进行数字创新。

******

请务必查看最新一期的《AI Magazine》 ,并订阅我们的全球会议系列 – Tech & AI LIVE 2024

******

AI Magazine 是BizClik旗下品牌

本文来自互联网,不代表前途科技立场,如若转载,请注明出处:https://accesspath.com/tech/5924659/

(0)
NEXTECH的头像NEXTECH
上一篇 8小时前
下一篇 2小时前

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注