Anthropic顾问警告AI生物武器风险并非假想
政策· 4 分钟阅读1 阅读
前拜登顾问、现任Anthropic顾问Ben Buchanan警告称，AI模型在病毒学问题上已超越博士级专家，可能助长生物武器风险。多家AI巨头CEO联名致信国会，呼吁强制筛查DNA合成订单以防止滥用。
AI助长生物武器研发的风险并非假想。周日，前拜登顾问、现任Anthropic顾问Ben Buchanan在CBS《Face the Nation》节目中发出上述警告。Buchanan如今是约翰霍普金斯大学教授，他表示AI模型“在病毒学问题上超越博士级病毒学家”，这种能力“可能助长生物武器风险”。
就在几天前，多家AI巨头CEO签署公开信，敦促国会强制筛查合成DNA和RNA订单，防止其被滥用于制造生物武器。
科技领袖联合推动DNA筛查
6月3日发布的这封公开信由OpenAI的Sam Altman、Anthropic的Dario Amodei、Google DeepMind的Demis Hassabis、Microsoft AI的Mustafa Suleyman以及多家主要DNA合成公司负责人联合签署。信函呼吁立法者要求销售合成核酸的公司审查订购的序列和买家身份，并保留记录，“以便任何可能躲过初步筛查的威胁都能追溯到源头”，据《科学》杂志报道。
签署方认为自愿合规已不再足够。信中指出：“鉴于底层技术变化的速度，我们认为需求紧迫。”今年早些时候参议院提出的两党法案《生物安全现代化与创新法案》将强制要求进行此类筛查，并可处以高达个人50万美元、公司75万美元的民事罚款。
筛查漏洞已经暴露
推动立法的背景是去年《科学》杂志发表的一项研究，该研究发现现有DNA筛查软件未能捕获许多AI设计的毒素序列——其中一个工具漏掉了超过75%的潜在威胁。即使在升级后，系统平均也只标记出72%的AI生成序列。
不断变化的政治格局
Buchanan与CBS新闻网络安全撰稿人Chris Krebs（曾在第一届特朗普政府期间领导网络安全和基础设施安全局）一同在节目中讨论了更广泛的监管格局。一项最近的行政令为先进AI模型建立了自愿的30天预先审查流程，不过Krebs指出，“真正有牙齿”的是国家安全总统备忘录，该备忘录赋予国防部对AI供应商的采购权。此外，国会议员Jay Obernolte提出的立法草案将要求受监管的模型每年接受两次独立审计。
“技术发展速度超过了民主监督和控制的能力，”Krebs说。
想了解 AI 如何助力您的企业？
免费获取企业 AI 成熟度诊断报告，发现转型机会
//
24小时热榜
热门标签
关注公众号
扫码关注，获取最新 AI 资讯
免费获取 AI 落地指南
3 步完成企业诊断，获取专属转型建议
已有 200+ 企业完成诊断