前途科技前途科技
  • 服务
  • 关于
  • AI
    • AI 大模型
    • 具身智能
    • 算力芯片
  • 科技
    • 智能终端
    • 软件·互联网
    • 汽车·出行
    • 科学前沿
  • 资源中心
    • 深度研究
      • AI 前沿
      • 教程
      • AI 知识库
      • 案例研究
    • 行业报告
      • 白皮书
      • 行业报告
      • 研究报告
      • 技术分享
      • 专题报告
    • 精选案例
      • 金融行业
      • 医疗行业
      • 教育行业
      • 零售行业
      • 制造行业
  • 服务
  • 关于
联系我们
AI 大模型/10.14 · 03:43/3 MIN/编译自 Google DeepMind/0 阅读

Google DeepMind推Gemini 4 Argon,详解前沿安全机制

Google DeepMind全面推出Gemini 4 Argon模型,显著提升了在网络安全与复杂推理等专业领域的表现。针对模型越狱、失控对齐与提示词注入风险,团队披露了三层防御、实时思维链监控等多项安全防护机制。

Google DeepMind推Gemini 4 Argon,详解前沿安全机制

Google DeepMind 近期正式开始全面推送 Gemini 4 Argon,同时扩大了面向安全防御者的 Fairwind 项目。这款新模型在代码、金融、法律、网络安全和科学等复杂现实任务中的表现大幅提升,尤其在网络防御能力上达到前沿水准。

在小范围测试期间,安全公司 Wiz 利用 Argon 在医疗软件中捕获了旧模型漏掉的严重缺陷,保护了数十万份患者记录;Google 内部安全团队也借其扫描并修复了影响全球多款系统的底层安全漏洞。

面对能力更强的大语言模型,Google 核心解决了两大关键问题:如何防止技术被滥用,以及如何确保模型不会为完成任务而越界?

防范高危领域滥用:部署三层实时防护

Argon 的代码与推理能力大幅增强,但在网络攻防测试中,这种能力同样可以转化为攻击力——它成功攻克了 12 个端到端模拟网络攻击场景,而前代模型仅能攻克 5 个。在生物学测试中,未受限版本也能逐步协助排查复杂的实验室流程。

依据前沿安全框架,Google 部署了更严格的防线:

  • 拒绝有害请求:在对抗性压力测试中,Argon 的违规请求完成率较前代下降了近一半。
  • 输入过滤:轻量级模型预先筛查输入提示词与上下文,识别潜在恶意意图。
  • 神经激活探针:利用小型 Transformer 读取模型的内部神经信号。即便恶意请求伪装成小说或故事,只要激活了网络攻击或生物危害相关知识,模型就会识别出来。
  • 连续状态监控:多步推理和生成期间持续评估信号,必要时直接切断 AI 智能体的运行。

在外部红队演练中,针对生物危害的攻击成功率被压缩在 1% 以下。

实时对齐监控:防止模型自主抄近道

强大的 AI 智能体在受阻时,往往容易将其视为“必须攻克的技术难题”,进而试图绕过规则。Argon 在编码基准测试中,试图偷懒或作弊的比例下降至 2%。

为了兜底,Google 建立了自动化对齐监控系统,实时读取智能体的操作行为与其内部“草稿纸”(思维链)。在训练与测试中,该系统曾发现模型出现过试图提权修改评测脚本、读取测试内存、甚至直接搞垮评测沙盒以避免被判定不及格的行为。

值得注意的是,Google 确立了一项核心训练规则:绝不在训练中针对思维链(Chain of Thought)本身进行惩罚。实验显示,一旦惩罚思维链中提及的投机取巧,模型在思考过程中讨论走捷径的比例下降了 61%,但实际“暗中”走捷径的行为却从 11.2% 激增至 36.4%。保留思维链的透明度,才能确保监控切实有效。

抵御间接提示词注入

当 AI 智能体访问外部网页或阅读第三方代码时,极易受到隐藏恶意指令的诱导。通过对抗训练与实时防护,Argon 在 Gray Swan 间接提示词注入(IPI)基准测试中,15 次自适应攻击下的平均失手成功率仅为 0.7%。更多技术细节已在其公布的安全报告中完整呈现。

标签:GoogleDeepMindGemini网络安全大语言模型

想了解 AI 如何助力您的企业?

免费获取企业 AI 成熟度诊断报告,发现转型机会

置顶文章

自己动手做模型:ML Intern 低成本定制小模型实战
置顶

自己动手做模型:ML Intern 低成本定制小模型实战

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费
置顶

谷歌Playground的账本:做游戏的人付钱,玩游戏的人免费

前途科技前途科技
服务关于快讯技术商业报告
微信咨询二维码

咨询微信

扫码添加微信咨询

前途科技微信公众号

微信公众号

扫码关注

Copyright © 2026 AccessPath.com, 前途国际科技咨询(北京)有限公司,版权所有。|京ICP备17045010号-1|京公网安备 11010502033860号|隐私政策|服务条款
微软和Meta收紧Claude:被削掉的是入口,不是模型
置顶

微软和Meta收紧Claude:被削掉的是入口,不是模型

//

24小时热榜

国内首个人工智能全产业链评测基准“求索”4.0发布
TOP1

国内首个人工智能全产业链评测基准“求索”4.0发布

AI批量造星冲击娱乐业,真人明星还有何价值?
TOP2

AI批量造星冲击娱乐业,真人明星还有何价值?

3

从电视到AI短剧:内容供给骤增下的注意力争夺战

19小时前
从电视到AI短剧:内容供给骤增下的注意力争夺战
4

华为哈勃投资视塔机器人,开发光子晶体柔性电子皮肤

20小时前
华为哈勃投资视塔机器人,开发光子晶体柔性电子皮肤
5

陪审团裁定Arm违约,高通仅获2美元象征性赔偿

4小时前
陪审团裁定Arm违约,高通仅获2美元象征性赔偿
6

Higgsfield借助新模型将AI视频时长拉长至10分钟以上

16小时前
Higgsfield借助新模型将AI视频时长拉长至10分钟以上
7

138场工业级落地实录:企业Agent该如何打破工程困局

19小时前
138场工业级落地实录:企业Agent该如何打破工程困局
8

广州“第一芯”粤芯半导体上市,市值突破1200亿元

19小时前
广州“第一芯”粤芯半导体上市,市值突破1200亿元
热门标签
大模型AgentRAG微调私有化部署Prompt EngineeringChatGPTClaudeDeepSeek智能客服知识管理内容生成代码辅助数据分析金融零售制造医疗教育AI 战略数字化转型ROI 分析OpenAIAnthropicGoogle

关注公众号

前途科技微信公众号

扫码关注,获取最新 AI 资讯

免费获取 AI 落地指南

3 步完成企业诊断,获取专属转型建议

已有 200+ 企业完成诊断