尽管 Gemini(以前称为 Bard)和 ChatGPT 等聊天机器人人工智能工具持续流行,但科技公司开始将重点转向防止人工智能生成的有害内容。随着 2024 年全球范围内将举行重大选举,包括亚马逊、谷歌和微软在内的科技巨头同意解决欺骗性人工智能和错误信息
周五(2024 年 2 月 16 日),各大科技公司齐聚慕尼黑安全会议,承诺打击欺骗选民的内容。
随着试图误导的人工智能内容(包括深度伪造图像、视频和音频)的传播,自愿协议表明,此类欺骗的传播可能“危及选举进程的完整性”。它指出人工智能的爆炸性发展为民主创造了机遇和挑战。
签署该协议的公司包括 IBM、亚马逊、Anthropic、OpenAI 和 Adobe 等公司,以及 Meta、TikTok 和 X(前身为 Twitter)等社交媒体平台,这些公司在阻止有害内容进入其网站方面都将面临困难。
需要企业协作以避免虚假人工智能传播
据 Digit News 报道,今年将有 40 多个国家的超过 40 亿人参加选举,其中包括英国、美国和印度。
科技公司在开发生成式人工智能 (Gen AI) 工具时不断面临新情况,并要求加强安全性和监管。社交媒体组织尤其受到特别审查,以确保从其网站上删除可能破坏选举的有害内容。
二十家科技公司上周签署了该协议,表示他们将合作开发工具,以防止人工智能选举内容在其平台上传播并采取行动。
这些努力可能包括在图像上添加水印,以表明它们是人工智能生成的,Meta 最近承诺在其平台上这样做,以更好地倡导负责任的人工智能。
在对抗恶意人工智能方面,提高透明度至关重要,这使得签署该协议的企业同意审查他们的人工智能模型,以更好地了解它们可能对选举构成的风险。
在其他人工智能安全会谈(包括 2023 年底举行的英国人工智能安全峰会)之后,更多的世界和商界领袖正在就倡导安全人工智能进行重要对话。随着人工智能系统的快速增加,人工智能道德必须保持最新状态,以保护人们和企业。
据英国《金融时报》报道,Meta 全球事务总裁尼克·克莱格 (Nick Clegg) 表示:“今年将举行如此多的重大选举,我们必须尽一切努力防止人们被人工智能生成的内容所欺骗。” “这项工作比任何一家公司都规模更大,需要整个行业、政府和民间社会的巨大努力。”
担心人工智能可能影响选举投票
Gen AI 已经被用来影响政治,甚至说服人们不要投票。路透社报道称,2024 年 1 月,新罕布什尔州各地的选民收到了使用美国总统拜登虚假音频的自动语音电话,敦促他们在该州总统初选期间待在家里。
尽管 Gemini(以前称为 Bard)和 ChatGPT 等聊天机器人人工智能工具持续流行,但科技公司开始将重点转向防止人工智能生成的有害内容。
部分原因是在俄罗斯-乌克兰战争等全球冲突中,威胁形势持续发生重大变化。如果不大规模解决,人工智能技术的持续快速发展肯定会继续威胁全球安全。
考虑到这一点,欧盟人工智能法案等拟议法规旨在对抗深度造假等恶意人工智能,以更好地保护基本的政府服务和商业运营。
在此之前,科技公司已经合作促进开源人工智能,并提供更好的人工智能教育机会,以使开发更安全。 2023 年 12 月,Meta 和 IBM 与其他 50 家创始公司一起组建了人工智能联盟,以加速负责任的创新。
谷歌、Anthropic、微软和 OpenAI 还通过其前沿模型论坛继续倡导安全人工智能——推进人工智能安全研究,确定前沿模型的安全最佳实践,并利用人工智能应对社会挑战。
******
请务必查看最新一期的AI 杂志,并报名参加我们的全球会议系列 – Tech & AI LIVE 2024
******
AI 杂志是BizClik旗下品牌