该图片是在 DALL-E 2 BSI 的 Sam Roberts 和 Andrea Tirelli 的帮助下创建的,他们研究了人工智能开发人员如何实现更高的人工智能伦理,优先考虑系统中的公平性和无偏见性
随着人工智能(AI)的影响力扩展到医疗保健、执法、教育和就业等各个领域,对其道德层面的严格审查也在不断增加,特别是在偏见和公平性方面。
有偏见的人工智能系统对用户造成的伤害可以通过各种直接和间接的方式表现出来。
直接而言,此类制度可能会基于不公平的标准拒绝个人获得机会或服务(如贷款、求职或医疗保健),从而加剧现有的社会不平等。间接而言,刻板印象和偏见的延续可能会进一步边缘化弱势群体,助长更广泛的排斥和歧视社会氛围。
例如,面部识别技术在识别某些种族或民族群体的个人时因错误率较高而受到批评,从而导致潜在的虚假指控或不必要的监视。
另一个后果是,公众和利益相关者认为开发者和组织要么参与了利用其技术延续偏见和不公平现象,要么对这种现象视而不见,从而损害其声誉。这可能会导致信任丧失,在某些情况下还会产生法律和监管后果。
定义人工智能公平性
随着人们对 AI 伦理的认识不断提高,如果不能积极解决这些问题,开发人员可能会在竞争中处于劣势,影响他们的品牌和财务状况。亚马逊因其 AI 招聘工具的偏见而受到强烈反对,这充分说明了这些问题如何暴露出来并影响公司的声誉。
由于这些概念的多面性,定义人工智能系统中的偏见和公平是一项至关重要但并非微不足道的挑战。简而言之,人工智能中的公平是指人工智能系统应平等对待每个人,不歧视任何群体。这意味着系统的决策或预测不应偏袒某一人口群体,尤其是在招聘、贷款或医疗保健等关键领域。公平试图确保所有人,无论其背景如何,在与人工智能技术互动时都拥有相同的机会。
然而,为了确保在实践中实现现实世界的公平,这些简单的原则需要根据具体情况实施,并在应用人工智能系统的许多不同领域中有所区别。例如,当应用于生成式人工智能模型(如大型语言模型 (LLM))和预测式人工智能模型(如分类器)时,它们的具体表达方式可能有所不同。
尽管生成式人工智能模型目前在人工智能的许多方面处于领先地位,但人工智能的核心仍然是预测系统,而公平性的定量定义工作在人工智能的这一领域最为先进。学术界提出了各种定义,旨在捕捉偏见和公平的不同方面,并反映人工智能开发和应用中广泛的道德考量。其中一些定义已收录在国际标准中,例如 ISO/IEC TR 24027:2021。
具体而言,许多公平性定义都是通过要求不同人口统计子群体之间的各种指标相等来定量表达的;这些指标源自 AI 模型的混淆矩阵(见侧边栏 1)。例如,机会平等标准(详见 ISO/IEC TR 24027:2021 第 7.4 条)强调了子群体之间真实阳性率 (TPR) 相等的必要性。同样,预测平等标准(第 7.6 条)强调了子群体之间假阳性率 (FPR) 相等的重要性。
补充 1:混淆矩阵和一些派生指标
分类混淆矩阵通过将 AI 模型的预测与实际结果进行比较,有助于评估 AI 模型的性能。
在二元分类问题中,结果被分类为正 (P) 或负 (N)。矩阵由四个元素组成:真正 (TP),即模型正确预测正;假正 (FP),即负被错误预测为正;真负 (TN),即负被正确识别;假负 (FN),即正被错误识别为负。计算这些的公式基于将模型的预测与实际事实进行比较。
从混淆矩阵中,我们得出了其他几个重要指标,例如阳性预测值 (PPV)、假阳性率 (FPR)、假阴性率 (FNR) 和患病率。PPV 也称为精确度,用于测量正确识别的阳性比例。FPR 测量被错误识别为阳性的实际阴性比例。FNR 计算模型未能检测到的真实阳性比例。患病率表示数据集中阳性类别的实际发生率。
除了简单的准确性之外,这些指标对于理解分类器的性能至关重要。
让为非空集,并设是分类元素的函数变为正数( )和负( )类。我们假设表示元素的真实或正确分类
<img src="data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAgwAAAAuCAYAAABEfUEbAAAAAXNSR0IArs4c6QAAAARnQU1BAACxjwv8YQUAAAAJcEhZcwAADsMAAA7DAcdvqGQAABD+SURBVHhe7Z3Jqx1FF8A73z6JUVciLhxAUVH0acQJFDROiKASB5AsRH3iRkhUIu6cp4VITIKCiBoNCkFUHEDBCeMQFBUFB8SFK+f8AbF/ZZ33nXfTUw19X/d95wedqrzbt4eqU+ecqjpVd8W+ksIwDMMwDKOB//nUMAzDMAyjFnMYDMMwDMNoxRwGwzAMwzBaMYfBMAzDMIxWzGEwDMMwDKMVcxgMwzAMw2jFHIaB88ILLxRXXXVVceCBBxYrVqzwfzUMw+iX33//vTjllFOc3kH/fPnll/4TY0xI/WFHsCcpmMMwUGicNNarr77aVfa7775b2JYZhmFMi7vuuqv47LPPXP7PP/8srr/+eudEGOMCu4H9wI5gT7Arsc6fbdw0QGiUa9euLX788cdi69atxY033ug/MQzD6J+bb765eOKJJ4q5ubnixRdfdP9/8803i3Xr1hVvvPGGP8sYG9u2bStuuumm4ogjjih2795dHHTQQf6TbtgIwwB56qmnnLNApZqzYBjGNGHYGmdhfn7eOQeHH364Szdv3uycBpwHY5xgT7Ar2BfsTCjmMAyQ7du3u3T9+vUuNQzDmBbvvfeeG9ncsmXLoh7oPffcU+zYscP/zxgrYlfEzoRgDsPA+Omnn5z3B2eccYZLDWMS5OTOO+8sjjzySJfPCfObXPfBBx+0OetlCI5C3cgmgXN83gWT0WEidgU7ExrLYA7DwPj11199rihWrVrlc/HQUImS1QeN2Kjngw8+WCirPqBOGNZF4cl9CEjqGsGMkmRYkWHjG264oVi9erX/pBttMrFy5UrXC7n//vuLo446ys17GssP5PGCCy5YJCcEzHUhVUaBNqLvzSHOgcloPNqu7N271+c6QtBjCF988QVBktHH/Py8v9Jiqs7Vx5o1a/atW7du39atW/f99ttv/luzx2uvvbbwzu+//77/axqUV9m4Fq7LPcYE9S7PXnWUism9Xy7ZoNzl2rnZsWOHuy7tgGfl4Pn5W1u9cK6UBe+b8q58t00myh7Ivrm5uYXnnTXk3euO5aJzJuFdqXfeX3QQZUCZ8Pcmcsoo6LZYde9Zl1H9/nWH6D90Sxf0NanXEII1oig8uZkWCASMvyMwGhE2jrqX4jqiOCfP4zMUmnxOmiqIQ+WBBx5YKANprDnQ1x1j2WnjtnnzZv/X/xQGsiKygQymOkS6QeVErjvZPqRu2upFFHEuxdhVJnLfdyjwzqZz9kfqe1L/8Dfd9qroQ1a4Xtu9Z1VGYbKTjs4TyGNfxfaiJ9vQ+g0dEEKwRqRCqm7Eg8tDVFWsfMbL18H3ms7TBTeLggEoKXnHnA6D1BuKb4zocqlzOuUdm87pQl8OgxifmGcT497Wwwuhq0xow5pSrkPEdM5iqF/eNUZP9CGj2q40yd4syyjIKAqOQRVdOuWC1m+hZRWsEakUHnrS2xZBq3sI/l73soJ4iU3nScFxzCK6MkOHi5rIPWwnni11Jt5t3cE5qejecJ3TqZVGlYx2pQ+HQbeP0OfSSjOnExkiE/L8KeU6RIamc/pq/12R9tM2kjBJXzKqOwrco4lZlVGQMqgbQeB95Zw2faudi9C6Cgp6JOCkrLTijjvu2G/Dh6+++srniuLUU0/1ucWcf/75PlfNDz/84NK670PoRhNj45BDDvG5ovj77799Lg3qTXZsO+GEE1yaAsFQpRJ1G4CwLptd4Prm559/9rn6d0A2ygbl8jzTSy+95PJDYNeuXS4tG3OwDD/88MMu5btnnnmmy6cSKhNEx5fGxJVrzPrtoTI0nXP33Xf7XFE8+eSTPjcdiJhHv8OFF17o0q70IaPw4YcfurR0Atx+EE3MqozqFSYnnXSSzy0mREa1XSF4NAjvOCTTxVNvQnuoTfMqcp+Mjz445P141xzoXktd77wruqeMt0sPYBrevPR82spEv2uX+bwq9DVyoL3/0J6b/m7VyF0sMTIhPZPYNj40hqZz9PSHHKntNQQ9PRPSpvuSUZCy79qWZ01GQevcphEBOadNR6bIc7ZllfQ0oclTb+K7777zuaI47rjjfG5/PvnkE5ficc4q9N5joOcvPxbDwVI9vG7ptVBmKSMMeLrsRQ7z8/PufhdddFHvPTAZ2YJzzz3XpXUcc8wxPvffOuOlhjJjT37h3nvvXbRMjCWcTbz99ts+VxTnnXeez3Unp0ycdtppLqUH9/rrr7v8mBmazpGlgbQt0QE7d+50ad9QnyyBFA4++OAFmWFpZROpMirLjJFNuScyy1JfsSvnnHOOS9uYNRkFPXqv9ZtG76dwwAEH+FwzMXYmi8OglV6bQq9Dhp7g6KOP9rnFUCgIAqD0ZpVQA0yDo4FhzJn2wVCWzqAbcuZIdeYEGXZk2K/r5i05+Pbbb32uWbGDLjsZcl8q2GeBstKKeJI6BSDIVAaNO0Qu+pAJ7Vjo9jpWhqRzqC+Rk2uuucb90BM0yU4OcCgx0BdffPHCe05y8skn+1w1sTIKOEm0kbfeeqt49tlnnYxyXHnllc65Fo499lifa2bWZBQoG6Cc6sr3448/9rmiuOyyy3yumdC6cpSVk0xKEIUgwyRNQ0kMS+W6T46jL+QZuwSjMRxImXF+1XCgDhZsGnbtgtwndFg9Ff0ODCO3Iec2yVITuack9POHImUeMr3Sp0yIbJLGoO+desTqAGFaOqcLMh0g5Yqcy32Z9psGcr9QmYiRURBZKB2NyikQeR6OEFJlFOQaOY5U5Dp15UvZyZQtdVFVlhrsCufGlE+WEQZ+OlNo6zHVIT2eusBIPGF+NQ1KQcsaWDMkGH6XIVB6Gm1ce+21rmdQClNrD+j000/3uXDoAUkPJDQgKpV33nnHpWVjaA184jmF1BGVXMjzlw3UpSFImdcFO1XRp0zIcKe01zEzFJ1Dm5eRhA0bNrgUOaf+4JlnnnFpn+hR4lCZiJFR7nf77be7PMGdTb3d0HYzSzKq66VuWoYpT5l+feWVV1pHDsSuYGeQvSC845CEeDd4ijHoHp32bvGU8K7xrOTzpVhqNC0IcKIMec8uwUNdlhyJF8/R5nk2oetomoFYID2YLh6xfs46j7wNfY0cyLVCR2bq2kUTfcuE/u6YGZLOkRFa9KhGB7ultN0uxMpEjIyC6LmmUVS5bmi7mRUZBf0ulLVA20Y+pBzRkfrzNkS2+H6IPk8eYdABacyZxvDNN9/4XOG8Tgl8IfCGubW//vrL/Xoa95nVn3tm7/UTTzzRzS+XQtJpvvSxxx5zaVnptT3vPXv2uJRzouasKuA5pY66HG1BU03oOeQu8TFalkJ6PH2hg5GOP/54n+uPpZKJsTEknfPQQw+5dNOmTS4VdABh30uERSaa5slzQa9Z4osuueQSl06i281y/hE+qRc466yzFuSUeiJQlLQ0/sX3338fNAKGfcHOUA/oc+xPF5Idht27d/tc/Bp/PaVROjH7HfwWO422bTh6zNx2221F6ek5JY4CYzi0CYbeZchNAqSqkIYZ68wtNTrgsctQqZalmCmA3OhgpL6nSJaLTORgKDqHdo5TwnTbFVdc4f/6HxhuVkxA33sySGBd2145OXj++eddyjuzyqoK3e7rAlKXA1Iv6LJJGf3jjz+c/GD8Q508voedwd5gd7A/XUh2G
将上述数量组织成混淆矩阵如下:
<img src="data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAKsAAABhCAYAAACpm1HLAAAAAXNSR0IArs4c6QAAAARnQU1BAACxjwv8YQUAAAAJcEhZcwAADsMAAA7DAcdvqGQAAAtYSURBVHhe7Z3JixQ/G8dr3j/A/aYnF1BUFB0X3EBBZxQRD8KIJ0EQWzyruJzEw4heXW5e3PDiwV1QcMOdERU9OOLBowv6D/jWN+bpeSadSq2dqszv+UCmMtVV1d2pbyVP8nSe9PyNiQQhAP6nt4LQeESsQjCIWIVgELEKwSBiFYJBxCoEg4hVCAYRqxAMIlYhGESsQjCIWIVgELEKwSBiFYJBxCoEg4hVCAYRqxAMIlYhGESsQjCIWIVg8CLW7du3Rz09PaXS3r179dVGc+LECevxZurv748OHz4cffnyRZ8ZBo8fP7Z+nywJ5W4D5WAeO2nSJP2qHZSfeQ6S1/LEhMFuM3HiRExKLJXOnj2rr9bJjRs3rOckpUuXLukzw2B4eLhQGQ4ODuordILyNI9HObrA9ejY3t5e9bl80nWx4gvRF0SBmwUyY8aM9uv8y3///v3vwMBA+7WhoSH9ih06DunRo0d67z/wP78Wku+CLktfX1/7syeJ0CwzsxxM6DhKrVZLv2IH16Nj04TdDQqJlX9oW0LBErzWMwXHhQzRmvD3cYGbRMe5juU3/NChQ3pvGKAmo8/uEiEvM5RLElRmKBO6NioTF677kUcTRSlts8YfAp98VLp9+7Z+NYrev3+vtnFtEC1YsEDliU+fPulcFMUFpnOd4D1cfPz4Uefcx+7cuVPnouj169c6FwavXr3SuSiaM2eOznWyatUqtY2FF02ePFnlbVCZTZ8+PdqwYYPK//r1K7p586bK2/j27Zva2soY72vqAPe8Srrewbp//74quF27duk9Izx58kTnomjt2rU618nixYt1zs7Tp091zn3stGnTdC4s0Mki8FC7REgsXbpU5+xQmaECWblypcqD69ev61wnDx8+VNt169aprW+6LlbUsj9//rQWMK/dli9frnMj0NN6/PhxvcfOmzdvdC4aVfBjhQ8fPuhcFC1ZskTnkkGZ8dbNBioRMHfu3GjTpk2qQgGXL19WWxsvX75U23nz5qmtb2odZ71z547O/XvCi3L37l2di6LZs2frXCe8Bp4wYYLONZ8HDx7oXBStWbNG58rx4sULtSWTgoa5kkyBHz9+tE2RZcuWqa1vahMrb9rSbFIXGOdDAYO4k6ZssCSuXr2qc26zo2mk2auoDTHmycvUxdu3b1WZobyoxdu8ebPaApspQDYuP8c3tYmVN21lbCCqIYCrk4YbSTcdTd62bdtUvungYRweHlZ5fG5bC3TkyBG1dXW8OCQ8Xl4wBQibKUCtEnXG6qA2sfKmrYwN9O7dO51Lri1Rk2zZskX/F0UHDx6srXbICx8xMTtNaJrh2YOY89R41FFatGiR2hIDAwNqazMFyMYtY66VpTax8qatjA2U1EnDjURtipu5cOHCtqnQarWi/fv3q3wI0NAfgI3PXZ1TpkyJzpw5o15ztSom1FFasWKF2hJbt27VuU5TgFowdMhqI+455oYPAMf2pt6bnTRnQB7oOllSaI4AgPK1fRczuVyrHO5AMeGvxSaH3jv6fuWBu2eL6MSklpqVN21lbKAsHQp03mKRqqYybQisifARk6GhITUsRSkWl2r+gVlLJmGzVwmYETZTgO5XmY5wFdQiVu4MKGMD8U4aCpnfSEoYb4RIXaMETQW2NmHrXEFcM2fOVPmsnSvqKCWN19pMATJF0pwz3aYWsaY5A7LCO2khDUVl5dmzZzrnboHydK6oo5Q0Xrt+/XqdGxkVoHPqdrjUItaqnAG8k1ZG9E2F16xJDyNajs+fP+v/0jGdASamKQBTi85xOVx84F2s3M4sYwNlGX8MHe6Zq+Jh5A4UV3lxU+DixYvqHJRx3aaUd7FW5QxwjT+OBTD0VvXDSDVkWiXBTQEaGqvTGUB4F2tVzgDeSavrV0Dd5Pnz5zpX3cNIzoC0jhI3BQjTgVAHXsWK2uLKlSv6vygaN26czuWHX2cs4vqpXlHIrBg/frzauuCmAMg6NNZNvIkVQj169Kj+7x+wh7A/L5gkSE0kwE8Ei1ynqcCup+YXoANVdmIeuWUBftCTdj1uCgD6UXet/C1AEQ8WHW9LecD72a6BFN8MfVS4cK+PmYpOdEwqM9e0FxCbAuq43t5evScfVXuwvIlV+O8xJtytglAEEasQDCJWIRhErEIwiFiFYBCxCsEgYhWCQcQqBIOIVQgGEasQDCJWIRhErEIwiFiFYBCxCsEgYhWCQcQqBIN3sfLAYnlS0jpNmAJiO95MiECCqR1ZQg41AXxf2/fIk5KiWKMszGOT1swizOORKBqML7yLFfGZ+grEC0ia4Ym5QZhbhOnKLhAQA/OaVq9enbgAXFOgYL9lSQpkgcAYiKbIwQRM1zw23Dc+4xXn8xm4PvAuVkzz5VOnIdy/LDYVT4NstQ/XdGsEX+Bixnn8Oghoxq8F0bpi59cNX30GAdR4QDY+URJhg/j3xGsUqM0VawD3YMeOHfq/Ee7du6dzneAcPh372LFjap9ParFZf//+rXNuEfI4qmkxBnitYE4bxk3DtbhgT506pXPNgwIkQ3ioBbnoeKRvM/AEHtrdu3erfFqsgT9//qgtIiwS165d0zk3qGB8CxXUIlYemC1NhGQyTJ06VW2T4HGvkqYN89Ds/PimQeVz/vz5DlHwSN+uKC1pgT8oMuD8+fPb4S/TTIGvX7+qbV1BRWoRKw/MljXqtevG8E6TKwJ0KGEvUT54SG0PXdb4V2mVAEUGhF3La2iXKUDvXVvAi9jWyU2ZqdhYEpPOjZs5vbccfNHctOjWdBxSiNBnj21SvacYvAz4PUGsABs8KnZavAEi+KnYWWOO5oHHz0KzlgSvgdNGD5oI//xl4l9RKE1qhdBqUccsyRSgnj/OqcNeBd7FymOO2pp2hLXBGB5CBGWF25+um3jr1i2da0ZUvLzwRefK2I1UYfDo13xYymYKkI2bZYXDbuFdrGk218mTJ9U2a4RBM05rkl2K2oLHj9q3b5/OhQNf9rOM3UgVBq8sNm7cqHP2UYG0iNle0OZALorarNzusb01tz2zxq3iS8S77K24+WofV4X9VAewU+k7ZLUbbaCvgGvgPnJc16f9sG+zErTNyge7gem+27Nnj9rvqiFN+DpRZihz2HgwJ2bNmtU2FWBzXbhwQeVDgketLmM3ooWhlsgcbeAuV24KpJluvvAqVm5zucjTeaDmCUDsXPxwrR44cKB9k+OnWw2y19VBKAN3BpSxG6mjhLIw4eu3clOAKhnbOT7xKlYurLjJhx0wKpGRn6fzwMdsbaAWgh87bvKCFSrgzoAydqNrmSC+lDsfFaD3rssZQHgVK68dbJ0r8j1n7Vzx5gmFbIofCUs/nj59uhnBcEvAO6ZZ17yyQRVG0hCfzRQgj1rW+9ItvIkVwqLmGMJy2T5Zl7DpxphtUyGbO63s0qCWKMnUspkCdE6ZNXarwJtYeecqSVj4sQlqw6ydK16zjsVF24iqnQGuDqxpCtA5cBrUbUJ5EyutFAKqElZWP3noVOUMoAojTfDcFDh37pzawvavm9JiRRPBe+BI/f39+tURaNlwUIWw+BAMqHNIpdtU5QygCiNN8NwUIEdKWgWD2t/UAUZiKiVudrtOmjOgCNwZEOogf1biZrn9XatwBqDs0uDviWQ6E
<img src="data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAKsAAABhCAYAAACpm1HLAAAAAXNSR0IArs4c6QAAAARnQU1BAACxjwv8YQUAAAAJcEhZcwAADsMAAA7DAcdvqGQAAAtYSURBVHhe7Z3JixQ/G8dr3j/A/aYnF1BUFB0X3EBBZxQRD8KIJ0EQWzyruJzEw4heXW5e3PDiwV1QcMOdERU9OOLBowv6D/jWN+bpeSadSq2dqszv+UCmMtVV1d2pbyVP8nSe9PyNiQQhAP6nt4LQeESsQjCIWIVgELEKwSBiFYJBxCoEg4hVCAYRqxAMIlYhGESsQjCIWIVgELEKwSBiFYJBxCoEg4hVCAYRqxAMIlYhGESsQjCIWIVg8CLW7du3Rz09PaXS3r179dVGc+LECevxZurv748OHz4cffnyRZ8ZBo8fP7Z+nywJ5W4D5WAeO2nSJP2qHZSfeQ6S1/LEhMFuM3HiRExKLJXOnj2rr9bJjRs3rOckpUuXLukzw2B4eLhQGQ4ODuordILyNI9HObrA9ejY3t5e9bl80nWx4gvRF0SBmwUyY8aM9uv8y3///v3vwMBA+7WhoSH9ih06DunRo0d67z/wP78Wku+CLktfX1/7syeJ0CwzsxxM6DhKrVZLv2IH16Nj04TdDQqJlX9oW0LBErzWMwXHhQzRmvD3cYGbRMe5juU3/NChQ3pvGKAmo8/uEiEvM5RLElRmKBO6NioTF677kUcTRSlts8YfAp98VLp9+7Z+NYrev3+vtnFtEC1YsEDliU+fPulcFMUFpnOd4D1cfPz4Uefcx+7cuVPnouj169c6FwavXr3SuSiaM2eOznWyatUqtY2FF02ePFnlbVCZTZ8+PdqwYYPK//r1K7p586bK2/j27Zva2soY72vqAPe8Srrewbp//74quF27duk9Izx58kTnomjt2rU618nixYt1zs7Tp091zn3stGnTdC4s0Mki8FC7REgsXbpU5+xQmaECWblypcqD69ev61wnDx8+VNt169aprW+6LlbUsj9//rQWMK/dli9frnMj0NN6/PhxvcfOmzdvdC4aVfBjhQ8fPuhcFC1ZskTnkkGZ8dbNBioRMHfu3GjTpk2qQgGXL19WWxsvX75U23nz5qmtb2odZ71z547O/XvCi3L37l2di6LZs2frXCe8Bp4wYYLONZ8HDx7oXBStWbNG58rx4sULtSWTgoa5kkyBHz9+tE2RZcuWqa1vahMrb9rSbFIXGOdDAYO4k6ZssCSuXr2qc26zo2mk2auoDTHmycvUxdu3b1WZobyoxdu8ebPaApspQDYuP8c3tYmVN21lbCCqIYCrk4YbSTcdTd62bdtUvungYRweHlZ5fG5bC3TkyBG1dXW8OCQ8Xl4wBQibKUCtEnXG6qA2sfKmrYwN9O7dO51Lri1Rk2zZskX/F0UHDx6srXbICx8xMTtNaJrh2YOY89R41FFatGiR2hIDAwNqazMFyMYtY66VpTax8qatjA2U1EnDjURtipu5cOHCtqnQarWi/fv3q3wI0NAfgI3PXZ1TpkyJzpw5o15ztSom1FFasWKF2hJbt27VuU5TgFowdMhqI+455oYPAMf2pt6bnTRnQB7oOllSaI4AgPK1fRczuVyrHO5AMeGvxSaH3jv6fuWBu2eL6MSklpqVN21lbKAsHQp03mKRqqYybQisifARk6GhITUsRSkWl2r+gVlLJmGzVwmYETZTgO5XmY5wFdQiVu4MKGMD8U4aCpnfSEoYb4RIXaMETQW2NmHrXEFcM2fOVPmsnSvqKCWN19pMATJF0pwz3aYWsaY5A7LCO2khDUVl5dmzZzrnboHydK6oo5Q0Xrt+/XqdGxkVoHPqdrjUItaqnAG8k1ZG9E2F16xJDyNajs+fP+v/0jGdASamKQBTi85xOVx84F2s3M4sYwNlGX8MHe6Zq+Jh5A4UV3lxU+DixYvqHJRx3aaUd7FW5QxwjT+OBTD0VvXDSDVkWiXBTQEaGqvTGUB4F2tVzgDeSavrV0Dd5Pnz5zpX3cNIzoC0jhI3BQjTgVAHXsWK2uLKlSv6vygaN26czuWHX2cs4vqpXlHIrBg/frzauuCmAMg6NNZNvIkVQj169Kj+7x+wh7A/L5gkSE0kwE8Ei1ynqcCup+YXoANVdmIeuWUBftCTdj1uCgD6UXet/C1AEQ8WHW9LecD72a6BFN8MfVS4cK+PmYpOdEwqM9e0FxCbAuq43t5evScfVXuwvIlV+O8xJtytglAEEasQDCJWIRhErEIwiFiFYBCxCsEgYhWCQcQqBIOIVQgGEasQDCJWIRhErEIwiFiFYBCxCsEgYhWCQcQqBIN3sfLAYnlS0jpNmAJiO95MiECCqR1ZQg41AXxf2/fIk5KiWKMszGOT1swizOORKBqML7yLFfGZ+grEC0ia4Ym5QZhbhOnKLhAQA/OaVq9enbgAXFOgYL9lSQpkgcAYiKbIwQRM1zw23Dc+4xXn8xm4PvAuVkzz5VOnIdy/LDYVT4NstQ/XdGsEX+Bixnn8Oghoxq8F0bpi59cNX30GAdR4QDY+URJhg/j3xGsUqM0VawD3YMeOHfq/Ee7du6dzneAcPh372LFjap9ParFZf//+rXNuEfI4qmkxBnitYE4bxk3DtbhgT506pXPNgwIkQ3ioBbnoeKRvM/AEHtrdu3erfFqsgT9//qgtIiwS165d0zk3qGB8CxXUIlYemC1NhGQyTJ06VW2T4HGvkqYN89Ds/PimQeVz/vz5DlHwSN+uKC1pgT8oMuD8+fPb4S/TTIGvX7+qbV1BRWoRKw/MljXqtevG8E6TKwJ0KGEvUT54SG0PXdb4V2mVAEUGhF3La2iXKUDvXVvAi9jWyU2ZqdhYEpPOjZs5vbccfNHctOjWdBxSiNBnj21SvacYvAz4PUGsABs8KnZavAEi+KnYWWOO5oHHz0KzlgSvgdNGD5oI//xl4l9RKE1qhdBqUccsyRSgnj/OqcNeBd7FymOO2pp2hLXBGB5CBGWF25+um3jr1i2da0ZUvLzwRefK2I1UYfDo13xYymYKkI2bZYXDbuFdrGk218mTJ9U2a4RBM05rkl2K2oLHj9q3b5/OhQNf9rOM3UgVBq8sNm7cqHP2UYG0iNle0OZALorarNzusb01tz2zxq3iS8S77K24+WofV4X9VAewU+k7ZLUbbaCvgGvgPnJc16f9sG+zErTNyge7gem+27Nnj9rvqiFN+DpRZihz2HgwJ2bNmtU2FWBzXbhwQeVDgketLmM3ooWhlsgcbeAuV24KpJluvvAqVm5zucjTeaDmCUDsXPxwrR44cKB9k+OnWw2y19VBKAN3BpSxG6mjhLIw4eu3clOAKhnbOT7xKlYurLjJhx0wKpGRn6fzwMdsbaAWgh87bvKCFSrgzoAydqNrmSC+lDsfFaD3rssZQHgVK68dbJ0r8j1n7Vzx5gmFbIofCUs/nj59uhnBcEvAO6ZZ17yyQRVG0hCfzRQgj1rW+9ItvIkVwqLmGMJy2T5Zl7DpxphtUyGbO63s0qCWKMnUspkCdE6ZNXarwJtYeecqSVj4sQlqw6ydK16zjsVF24iqnQGuDqxpCtA5cBrUbUJ5EyutFAKqElZWP3noVOUMoAojTfDcFDh37pzawvavm9JiRRPBe+BI/f39+tURaNlwUIWw+BAMqHNIpdtU5QygCiNN8NwUIEdKWgWD2t/UAUZiKiVudrtOmjOgCNwZEOogf1biZrn9XatwBqDs0uDviWQ6E
此外,阳性预测值 (PPV)、假阳性率 (FPR)、假阴性率 (FNR) 和患病率 (p) 是使用以下公式从上述数据中得出的:
在人工智能发展领域,数学约束对于公平性的要求是巨大的挑战。因此,有几条数学定理已被证明,表明人工智能系统不可能(在一般条件下)同时满足多个公平性定义,这是一个重要的障碍。
此定理的一个关键示例(在侧边栏 2 中有详细说明)断言,除非在人口统计子群体中的患病率完全相同(这是一种不太可能出现的情况),否则没有 AI 模型可以同时在子群体中实现相同的阳性预测值、相同的假阳性率和相同的假阴性率。
这一结果凸显了数学可行性与人工智能公平性追求之间的内在矛盾。
补充 2:算法公平性的不可能定理
为了证明算法公平性的不可能定理的简单版本,我们首先需要提供一些额外的框架。
首先,按照侧栏 1 中提供的设置,我们假设是 —即和是非空子集使得和
和代表子群评估公平性。例如, 和可能代表人口统计学亚群体,其中一个亚群体在社会上处于不利地位。
请注意,分别在 和 ,我们可以提供与侧边栏 1 中相同的定义——例如,我们可以定义:
其他数量定义类似。在这种情况下,让我们陈述一些通常理想的公平条件:
公平条件 1 – 预测奇偶校验:
公平条件 2——分类奇偶校验: 和
我们来定义一个模型何时满足现实世界的条件:如果一个模型本质上不是一个完美的预测器,那么它就是现实世界的:如果 , , , 和 。请注意,在这个非常弱的限制下,几乎所有模型都会成为真实世界的。
考虑到上述所有定义,我们现在可以陈述并证明以下结果。
定理(算法公平性不可能定理) 。任何现实世界的模型和 ,并且 ,不能同时满足预测奇偶性和分类奇偶性公平条件。
证明。我们证明逆命题——即,我们证明如果预测和分类奇偶性都成立,那么情况一定是这样的 。
证明的关键是以下公式,它适用于所有现实世界模型:
使用 PPV 的定义很容易证明这一等式,并且注意到 , 和 ,其中 TPR 和 FPR 分别是真阳性率和假阴性率。
如果我们将这个方程分别应用于 A 和 B,我们会得到:
和
现在,如果预测奇偶校验和分类奇偶校验都成立,我们还会得到:
和
因此,我们有:
这最终意味着 。
鉴于不可能定理(如侧边栏 2 中举例说明的)所强调的数学约束,人工智能开发人员在定义公平性时面临道德困境。公平性定义的选择应以明确阐述的道德原则为基础,以指导一致的应用和决策。这种方法确保尽管不可能同时实现所有公平指标,但所选定义符合深思熟虑的道德立场,解决与人工智能系统的背景和对不同人口群体的影响相关的特定问题和价值观。
此外,选择基于道德原则的公平定义可确保在开发人工智能系统时有意识地了解其社会影响。通过阐明和遵守这些原则,开发人员可以透明和负责地克服不可能定理所施加的固有限制,从而在用户和利益相关者之间建立信任。这种方法鼓励就我们希望人工智能系统反映的价值观进行更广泛的讨论,促进更具包容性和公平性的技术未来。
跨领域应用公平性指标
让我们将这些考虑应用到实际的例子中,其中所要采用的公平性条件也应该基于特定领域的关注点:参考边栏 1 和 2,在某些情况下,预测奇偶校验可能是优先考虑的条件,而在其他情况下,分类奇偶校验可能更为重要。
第一个例子是用于贷款申请的人工智能系统:在这种情况下,优先考虑预测平价旨在确保所有人口群体都有同等的机会被正确识别为可能偿还贷款。这在金融环境中至关重要,可以避免系统性歧视并确保公平获得金融服务,促进不同社会群体在获得金融援助和成长机会方面的公平性。
另一方面,在刑事司法风险评估中,优先考虑分类均等性(各组之间的 FPR 和 FNR 均等)至关重要,因为它直接影响个人的自由和生活。
通过确保相同的假阳性率和假阴性率,该系统避免不成比例地将某些人口群体中的个人标记为可能再次犯罪。这对于维护正义和公平至关重要,因为它旨在消除可能导致审前程序中不平等待遇和结果的系统性偏见。
公平性指标的选择对利益相关者的影响各不相同,因为每个群体对人工智能决策的优先级和风险都不同。例如,有利于一个群体的指标可能会无意中损害另一个群体的利益,影响就业、法律结果或服务获取。
因此,在实施人工智能公平条件的决策过程中,必须纳入广泛的利益相关者,例如受人工智能系统影响的最终用户、了解其应用细节的领域专家、伦理学家、法律顾问和社区代表。
让多元化的利益相关者参与进来,可以确保考虑到多种观点,突出所选公平定义中的潜在缺陷,并有助于识别从狭隘视角来看可能并不明显的不利影响。
虽然多元化群体的参与对于人工智能公平性的决策至关重要,以确保这些技术对社会各阶层都是公平和有益的,但必须牢记,人工智能的技术性质及其公平性指标可能会成为非技术利益相关者(例如没有技术背景的最终用户或决策者)理解的障碍。
这一差距更加强调了人工智能系统的透明度和可解释性的重要性。
传达人工智能伦理的公平性
为了弥合这一鸿沟,公平性的操作和技术定义必须以通俗易懂的语言进行传达。这种方法不仅可以让更广泛的受众了解人工智能,还可以营造一个透明地进行道德考量、包容的环境。
通过优先考虑可理解性,围绕人工智能的道德考量不仅限于技术专家,而是一种协作努力,反映了广泛的观点和价值观。这种包容性对于开发真正公平和道德的人工智能系统至关重要,它加强了开发人员就其系统的影响和运行进行清晰、公开的对话的责任。
考虑到透明度和可解释性,在人工智能开发生命周期的早期将道德决策纳入公平性指标的选择也至关重要。早期参与可确保用于训练和测试人工智能系统的数据收集过程符合广泛的道德标准。
这种先发制人的方法有助于从源头上识别和减轻潜在的偏见,从根本上促进公平和包容。早期干预还可以减少后期修订,避免发现的问题深深融入系统架构。因此,这可以避免复杂且昂贵的系统重做或重新设计过程,确保公平和道德标准是人工智能开发的“硬性”元素,而不是改造元素。
欧盟《人工智能法案》和 ISO/IEC 标准等法规和标准为这些道德决策过程提供了重要基础:事实上,通过建立一套国际公认的原则和程序,法规和标准为人工智能中的道德考量提供了一种结构化的方法。这种结构化方法要求开发人员不仅要做出主动的道德决策,还要彻底记录这些决策,确保透明度和问责制。
然而,值得强调的是,这些准则并不能免除开发人员主动应对道德困境的责任。人工智能开发工作的本质超越了单纯的合规性;它要求更深入、更主动地考虑道德问题。
真正的挑战在于如何在不可避免的艰难抉择中前行。
这些规定奠定了基础,但最终还是要由开发人员和利益相关者来执行。通过广泛接触各种观点,开发人员有可能了解其工作产生的诸多影响,并做出不仅符合既定框架而且遵守在人工智能系统设计初期就已确立的共同道德原则的决策。
我们应该以勤奋、同理心和坚定不移地致力于做正确的事情来完成这项任务。
披露:本文为软文,由 BSI 支付报酬。本文经过编辑审核,并通过了信息量评估
******
请务必查看最新一期的《AI Magazine》 ,并订阅我们的全球会议系列 – Tech & AI LIVE 2024
******
AI Magazine 是BizClik旗下品牌