AI不再关进黑盒子 透明度标准助政府决策责任

AI不再关进黑盒子 透明度标准助政府决策责任
政府机关使用AI支援决策宜公开透明才能避免争议。法新社

英国政府9月公布了国家AI战略(National AI Strategy),其中一项中期目标为完成对演算法透明度的深入分析,制定一个跨政府标准。这项演算法透明度标准已于日前正式公布,将推动政府机关建立透明度,记录其使用演算法做决策时的方式、时间和地点。

根据VentureBeat报导,政府部门使用演算法进行决策正受到全球各地的挑战,例如英国劳动部被揭露其演算法以不符合比例原则的方式审查残障人士是否有诈骗福利金的行为;美国则有一群新闻记者收集庞大证据证明,所谓没有种族偏见的犯罪预测软体,其实一直存有偏见。

英国资料伦理与创新中心(CDEI)民调显示,有38%民众并不知道演算法系统会使用个人资料来支援决策。而且很难分辨这些决定是由人类还是演算法所做出。目前唯一的方法是透过记者、民间社会组织、倡议者或学术研究人员进行调查,但即便如此,收集证据十分耗时且繁琐,容易造成混淆及混乱。

政府单位、政府机关和地方政府之间也存在知识差距,可能不知道所使用的是哪些系统,以及使用这些系统的原因,进一步阻碍了资讯、利益和危害的共享。

这种资讯和知识的根本差距,让Ada Lovelace独立研究单位提出政府部门演算法决策系统应登记其透明度的建议。让收集的政府系统资讯集中在一个地方,允许大众以及受大众托付的记者和学者进行审查。

英国政府的新演算法透明度标准是其实现透明度登记的第一步,提供了一种结构化描述系统的方式,并可将此结构化资讯提交作为定期报告。内阁办公室表示,这项标准分为两层,第一层包含了对演算法工具的简短描述,第二层则包含有关该工具如何运作的详细资讯、训练模型使用的资料集,以及人工监督程度。

对于正在开发政府部门软体的企业而言,这项透明度标准可以向民众解释其正在做什么、为什么这么做以及如何做。

政府部门的演算法透明度标准也可以视为是科技监管透明度标准的一部分。欧盟的数位服务法草案、英国的线上安全法草案等,都要求线上技术平台提供标准化的透明度报告。

本文来自互联网,不代表前途科技立场,如若转载,请注明出处:https://accesspath.com/tech/5702432/

(0)
NEXTECH的头像NEXTECH
上一篇 2021年12月15日 上午10:48
下一篇 2021年12月15日 上午10:57

相关推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注