人工智能招聘:姓名歧视的隐忧
一项最新研究揭示了人工智能(AI)工具在招聘过程中可能存在的隐性偏见。研究人员分析了550份真实简历,发现AI工具在85%的情况下倾向于选择与白人相关的姓名,而对女性姓名的偏好率仅为11%。更令人担忧的是,AI工具从未在白人男性姓名中选择黑人男性姓名。
研究团队使用120个典型的白人和黑人姓名,通过三家公司提供的大型语言模型(LLM)工具,进行了超过三百萬次的简历比对。结果显示,白人男性姓名在AI工具中备受青睐,而黑人男性姓名的偏好率仅为15%。
华盛顿大学博士生Kyra Wilson指出,目前除了纽约市的法律规范外,其他地区对这些AI工具缺乏独立审查,无法确认其是否存在基于种族和性别的歧视。Gartner分析师提醒,许多企业在招聘筛选中已广泛使用AI工具,但招聘人员应谨慎审视AI提供的摘要和推荐,避免被算法偏见所误导。
法律顾问建议,人力资源领导应建立内部标准,进行算法影响评估,并密切关注AI工具供应商的合約与法規更新,以降低算法歧视风险。