科技无形化之前，我们该如何思考？

科技的隐形力量：我们该如何掌控？

十年前，风险投资家马克·安德森宣称“软件正在吞噬世界”。如今，最新款手机最引人注目的功能不再是更快的芯片或新颖的外形，而是软件更新或人工智能的改进。科技正在变得越来越平凡，最终，变得无形。

这或许不会让你感到困扰。但即使科技逐渐淡出我们生活的背景，它们仍然发挥着无处不在的作用。我们仍然需要审视科技可能对我们产生的影响，即使——尤其是——它们已经司空见惯。

例如，Waze 的导航软件多年来一直在影响着驾驶员在现实世界中的行为，它通过算法将过多的车辆引导至住宅街道，导致交通拥堵。来自家庭安全公司 Ring 的设备和应用程序将社区变成了全景监狱，你的邻居可能会成为通知的主题。联网医疗设备可以告知保险公司患者是否没有正确使用设备，从而让保险公司停止支付该设备的费用。

利用科技来创造或强化社会规范可能看起来是良性的，甚至是有益的，但我们不妨问问，科技正在强化哪些规范？同样，那些承诺节省时间的科技，可能只是为某些人节省了时间，而牺牲了其他人的时间。最重要的是，我们如何知道一项新技术是服务于更大的利益或政策目标，还是仅仅为了提高公司的利润率？在对亚马逊、Facebook 和谷歌的担忧之下，人们意识到，大型科技公司无处不在，我们不知道如何让它们为社会的目标服务，而不是为公司的目标或个人的目标服务。

问题的一部分在于，我们甚至还没有确定这些好处应该是什么。让我们以立法人工智能，甚至更普遍地说，以计算机介导的决策为例。我们应该宣布这类技术本身就是非法的吗？美国许多城市正在试图禁止执法部门使用面部识别软件来识别个人。另一方面，联邦调查局已经使用它来找到参与 1 月 6 日美国国会大厦暴乱的人员。

更复杂的是，众所周知，面部识别（以及一般的算法）对黑人和女性的面孔存在偏见。我个人认为，解决方案不是完全禁止面部识别。例如，欧盟已经提议立法，定期审计面部识别算法的结果，以确保政策目标得到实现。美国和其他国家没有理由不能这样做。

虽然一些科技行业人士呼吁美国建立一个独立的监管机构来管理人工智能，但我认为，美国和政策制定者最好在现有机构内增加办公室和专家，他们可以审计各种算法，并确定它们是否有助于实现该机构的目标。例如，美国司法部可以监控，甚至负责批准用于释放保释人员的程序，以防范潜在的偏见。

美国已经有一个关于如何做到这一点的模式。联邦通信委员会依靠其工程与技术办公室来帮助监管无线电波。重要的是，该办公室聘请的是该领域的专家，而不是政治任命的人员。政府可以在其他机构中建立相同的基础设施，以便根据需要处理科学和技术调查。这样做将使无形的东西再次变得可见——然后我们就可以看到并控制我们技术的成果。

*本文刊登在 2021 年 7 月刊《与科技的清算》中。*