AI 法规、伦理、安全、监管
今年春季,一份由聊天机器人生成的情报险些让美军登临一艘中国货船,军机已升空才被叫停。多数报道把矛头指向"AI 幻觉",但事故真正的发生点是分析员的第二次调用——用模型把错误结论排成了一份"看起来很正式"的摘要。当制作格式的成本归零,格式就不再是流程的凭证。这条链路在中国企业的风控、尽调、审计、病历里同样存在,而出错的那一环,是一份货物清单。
OpenAI 宣布推出《社区安全报告》,旨在提升 AI 暴力预防的透明度。同时,ChatGPT 对青少年用户实施更严格的武器信息限制,并强化了针对潜在暴力意图的自动拦截与干预机制。
《纽约时报》援引匿名人士称,美国机构曾监控 Megaspeed 中国籍高管约一年,因担心她借接触黄仁勋获取英伟达动向。英伟达否认,中方称报道毫无根据,美国政府未见公开回应。
当预测算法直接向检方递交嫌疑名单,当个人的信用与自由全由代码打分裁决,个体该如何自证清白?透过学者笔下的算法司法小说,透视量化控制社会的技术黑盒与伦理危机。
美国国会和白宫官员对顶级 AI 公司高管频繁发表相互矛盾的公共言论感到不满。批评者认为,这些高管在承诺技术繁荣与警告全球性毁灭之间摇摆不定,正在将监管议题演变为一种“道德恐慌”,并呼吁他们应专注于产品安全与研发。
据《华尔街日报》报道,FBI 正考虑对前 OpenAI 工程师阿卜杜勒拉赫曼·阿尔福赞追加经济间谍罪指控。他此前因涉嫌在公司高管会议室电视后偷藏录音设备被捕,目前正面临联邦窃听指控。
OpenAI 宣布更新使用政策,要求模型路由器与 AI 网关等接入服务须获官方审核批准。无论直连还是通过托管、转售渠道访问,均须执行一致安全规范,同时引入 SafetyIDs 机制以精准追踪滥用。
公众对AI的讨论已从工具效率转向系统性安全风险。面对网络安全与模型失控隐患,仅靠单方自律无法破局。本文剖析研发实验室、部署方、评测机构和监管部门各自的责任边界,并揭示最易被忽视的“部署鸿沟”。
实验物理学家、哈佛大学前理学院院长克里斯托弗·斯塔布斯正式加入 Anthropic 长期利益信托。该信托独立于公司管理层并有权任命董事会多数席位,旨在监督前沿 AI 研发符合人类长期利益与伦理安全。
OpenAI 宣布更新《使用政策》,要求提供其模型访问的第三方伙伴及 AI 网关统一执行安全标准,并须通过前置审核。同时推出隐私保护机制 SafetyIDs,在不获取用户真实身份的前提下精准打击滥用行为。
美国联邦法官正式驳回了 Annie Altman 对其兄长、OpenAI 首席执行官 Sam Altman 提起的性侵指控民事诉讼。裁决表明,驳回主因是原告拒绝按要求配合独立医疗评估,法院并未就相关指控是否属实作出实体判定。
Anthropic汇总近期在AI政策与治理方面的关键举措,涵盖向第三方开放独立安全评估、更新使用政策、深化国家安全与能源合作,以及推出《负责任扩展政策》3.0版,展现前沿AI实验室在监管与合规上的最新探索。
针对近期AI智能体在测试中“失控”及蠕虫化扩散风险,欧盟宣布已启动《人工智能法案》执法,向OpenAI和Anthropic发出问询函。行业领袖在都柏林峰会上呼吁加强安全监管,为AI系统设置“安全刹车”。
Anthropic 宣布为前沿 AI 评估非营利机构 METR 开放准员工级系统访问权限,允许其深入内部系统审查风险并自主发布评估报告。此举确立了三级评估合作框架,旨在推动前沿 AI 治理机制的透明化与规范化。
Anthropic全面升级Claude在2026年美国中期选举期间的安全保障,涵盖政治中立评估、权威选民信息直连以及多步恶意滥用检测,以防止虚假信息和选举操纵,确保民主流程的公正性。
特朗普联合扎克伯格、马斯克等科技巨头签署自律协议,并将国家情报总监任命为新任AI沙皇。白宫正将人工智能全面接入五角大楼与情报机构,全球技术主权格局正迎来剧烈震荡。
特朗普在社交平台上宣称,白宫将任何使用“人工智能”(AI)而非“超级智能”(SI)的人视作“敌人”。此前他已签署行政令要求联邦机构改用该词,但科技界反响不一,白宫内部与各大机构在术语使用上也存在脱节。