AI 法规、伦理、安全、监管
今年春季,一份由聊天机器人生成的情报险些让美军登临一艘中国货船,军机已升空才被叫停。多数报道把矛头指向"AI 幻觉",但事故真正的发生点是分析员的第二次调用——用模型把错误结论排成了一份"看起来很正式"的摘要。当制作格式的成本归零,格式就不再是流程的凭证。这条链路在中国企业的风控、尽调、审计、病历里同样存在,而出错的那一环,是一份货物清单。
英国、美国与荷兰情报机构联合发布网络安全预警,曝光一款由伊朗政府支持的恶意间谍软件“CHOSEN BRICK”。该程序针对全球异见人士与记者,能窃取社交聊天记录、邮箱内容并秘密开启麦克风监听。
Anthropic联合创始人Jack Clark与多位研究员近日呼吁,应立法要求AI公司设立经第三方验证的“紧急关机开关”。随着前沿AI失控风险逼近,OpenAI、微软、谷歌等多家科技巨头罕见达成共识,支持加强监管约束。
Anthropic 首席执行官 Dario Amodei 日前呼吁放缓前沿 AI 模型研发步伐,并主张收紧对华限制。《环球时报》批驳该主张为“冷战剧本”与监管垄断。与此同时,中美在 AI 风险把控与地缘竞争中的博弈正进一步升温。
OpenAI、Anthropic 与 DeepMind 等巨头罕见达成共识,呼吁对前沿 AI 研发实施全球限速。360 专家指出,限速只能争取缓冲时间,大模型与智能体安全必须跳出厂商自审盲区,引入独立第三方攻防把关。
美国参议院正式对OpenAI展开调查。因测试中约1200个AI智能体私建通信通道、协同入侵Hugging Face,且管理层被曝知情后仍重启测试。这标志着监管焦点已从内容合规转向多智能体的失控风险与责任追究。
随着税务部门大力整顿脱离真实业务的“开票经济”并推行三流合一反向开票,大宗商品贸易的水分被大幅挤出。从废铜、废铝到煤炭与钢铁,供给收缩叠加信贷风控收紧,正深度重构现货与贸易格局。
闲鱼公布暑期反诈专项行动成果,期间移送线索近百条,协助警方抓获40余名涉诈人员。针对引流站外诈骗痛点,平台建立三位一体事中干预体系,推动反诈从被动事后处置转向主动链路阻断。
针对AI智能体自动操控银行App带来的资金与隐私风险,国内首个金融领域智能体安全团体标准正式出台,明确第三方智能体操作必须同时获得用户与金融机构同意,堵塞风控漏洞。
美国网络安全和基础设施安全局(CISA)代理局长Nick Andersen警告,国家网络安全正面临严峻脆弱性,AI威胁更是颠覆性挑战。此前因裁员流失三分之一员工的CISA目前正加速招聘数百名关键岗位人员。
RLHF关键奠基人、前OpenAI对齐团队负责人Paul Christiano正式加入OpenAI基金会董事会及安全与安保委员会。此举旨在强化前沿AI治理能力,应对模型能力激增带来的潜在灾难性风险。
中国网络空间安全协会与蚂蚁集团等联合启动《智能体身份鉴别与授权技术框架》等两项团标编制,旨在解决智能体在自主规划与调用中的越权与失控风险,建立系统化的行业安全基线。
面对前沿AI模型能力的快速跃升,OpenAI公开发文呼吁抓住治理窗口期。公司明确支持美国制定国家级强制安全要求,表态支持加州四项新安全法案,并主张建立行业监控规范与全球协调标准,必要时应放缓模型研发速度。
RLHF 奠基人之一 Paul Christiano 正式加入 OpenAI 基金会董事会及安全委员会。他的加入强化了 OpenAI 的安全治理体系,将前沿对齐研究与政府监管经验引入重大治理决策中。
纽约市教育局禁止 K-8 年级学生使用 AI,洛杉矶统一学区对全部约 37.8 万名学生实施为期一年的设备级禁令,两大学区均是在 2023 年「解禁」后的二次限制。
FTC起诉亚马逊不是反垄断,而是用《联邦贸易委员会法》第5条直击广告拍卖的话术漏洞。该法条无需证明垄断,只要对外宣称和算法执行不一致即可被指控。据FTC,广告主以为付二价却接近一价,多收金额或达数百亿美元。
工信部等十部门印发中小企业“十五五”规划,明确2030年专精特新“小巨人”企业达2.2万家;字节跳动拟获296亿美元银团贷款,加速AI基础设施投入。