Google Antigravity被曝严重安全漏洞:攻击者可通过文档操控AI代理窃取数据

安全研究机构Prompt Armor近日发布报告,揭示了Google Antigravity存在的严重间接提示注入(Indirect Prompt Injection)漏洞。攻击者可以通过精心构造的文档,在用户不知情的情况下操控AI代理执行恶意操作,包括读取私人文件、发送邮件、甚至访问关联的第三方服务。

漏洞原理

间接提示注入是一种针对AI代理的攻击方式。攻击者在文档、网页或邮件中嵌入隐藏的指令,当AI代理处理这些内容时,会将隐藏指令当作用户命令执行。

Prompt Armor的研究人员演示了以下攻击场景:

  1. 攻击者创建一个看似正常的Google Docs文档,其中嵌入了白色字体的隐藏指令
  2. 当用户使用Antigravity分析该文档时,AI代理会读取到隐藏指令
  3. 指令要求代理读取用户的Gmail邮件内容,并将信息发送到攻击者控制的服务器
  4. 由于Antigravity拥有Gmail和Drive的完整权限,攻击可以无缝执行

影响范围

该漏洞影响所有使用Antigravity并授予了Gmail或Drive权限的用户。Prompt Armor估计,受影响的用户数量可能达到数百万。

更严重的是,Antigravity的设计允许AI代理跨服务操作——它可以从Drive读取文件,通过Gmail发送内容,甚至调用Calendar API。这意味着一次成功的攻击可能导致用户整个Google生态的数据泄露。

Prompt Armor的发现细节

研究人员在报告中指出:

  • Antigravity对文档内容的解析没有进行安全过滤,隐藏文本会被完整读取
  • AI代理在执行操作时缺乏沙箱隔离,拥有与用户相同的权限
  • 操作日志中不会显示隐藏指令的执行记录,用户无法察觉异常
  • 即使用户只授予了”查看”权限,代理仍可能通过间接方式执行写操作

与数据删除事件的关联

这一安全漏洞与近期爆发的Google Drive数据删除事件存在潜在关联。虽然Google官方尚未确认两者的关系,但社区普遍认为,间接提示注入可能是导致Drive数据被意外删除的原因之一。

如果攻击者通过提示注入让AI代理执行了删除操作,而代理又拥有permanentDelete权限,那么整个Drive被清空就完全可能发生。

防护建议

针对这一漏洞,站长和开发者应该:

  1. 最小权限原则:只授予AI工具必要的权限,不要给完整的Drive或Gmail访问权
  2. 使用独立账户:将AI工具与主力Google账户分离
  3. 审查文档来源:不要让AI工具处理来自不可信来源的文档
  4. 监控账户活动:定期检查Google账户的安全活动日志
  5. 等待补丁:在Google修复该漏洞前,暂停使用Antigravity处理敏感文档

行业反思

这一事件再次凸显了AI代理安全的紧迫性。随着越来越多的AI工具获得系统级权限,间接提示注入已经从理论风险变成了现实威胁。

对于AI工具开发者来说,需要在产品设计中加入更强的安全防护:输入净化、权限沙箱、操作确认、异常检测等机制缺一不可。对于用户来说,”AI能做什么”和”AI应该被允许做什么”是两个完全不同的问题。

本文参考来源:Prompt Armor: Google Antigravity Data Exfiltration | Hacker News讨论 (768分)

© 版权声明
THE END
喜欢就支持一下吧
点赞15 分享
相关推荐
<p>菲尔兹奖得主、剑桥大学数学家Timothy Gowers近日在个人博客上分享了他使用ChatGPT 5.5 Pro的体验。令他惊讶的是,这款模型在一小时内连续攻克了多个博士级别的数学难题,展现出远超前代的推理能力。</p>

<h2>菲尔兹奖得主的实测</h2>

<p>Timothy Gowers是当代最有影响力的数学家之一,1998年获得菲尔兹奖,在组合数学和泛函分析领域有重要贡献。他在5月8日发布了一篇详细的博文,记录了自己测试ChatGPT 5.5 Pro推理能力的过程。</p>

<p>据Gowers描述,他给ChatGPT 5.5 Pro提出了多个需要深度推理的数学问题,这些问题的难度大致相当于数学博士资格考试或研究级别。让他印象深刻的是,模型不仅能够给出正确答案,还能提供完整的推理过程,包括:</p>

<ul>
<li>对问题的准确理解</li>
<li>合理的解题策略选择</li>
<li>严密的逻辑推导链</li>
<li>对特殊情况的处理</li>
</ul>

<h2>与前代模型的对比</h2>

<p>Gowers在博文中提到,之前版本的ChatGPT在处理类似难度的数学问题时,经常出现以下问题:</p>

<ul>
<li>推理链中途断裂,得出错误结论</li>
<li>混淆不同数学概念</li>
<li>在计算步骤中出错</li>
<li>无法识别问题的关键约束条件</li>
</ul>

<p>而ChatGPT 5.5 Pro在这些方面有了显著提升。Gowers认为,这一代模型的数学推理能力已经达到了”可以辅助专业数学研究”的水平。</p>

<h2>对普通用户意味着什么</h2>

<p>虽然菲尔兹奖级别的数学测试看起来离普通人很远,但ChatGPT 5.5 Pro展现出的推理能力提升,对日常使用也有实际影响:</p>

<ul>
<li><strong>编程辅助</strong>:更强的逻辑推理能力意味着在代码调试、算法设计等场景下能给出更准确的建议。</li>
<li><strong>数据分析</strong>:处理复杂的数据分析任务时,模型能更好地理解数据关系和统计方法。</li>
<li><strong>技术文档</strong>:在撰写技术文档、API文档等需要严密逻辑的内容时,输出质量更高。</li>
<li><strong>教育辅导</strong>:作为学习辅助工具,能提供更准确的解题思路和步骤讲解。</li>
</ul>

<h2>AI数学能力的里程碑</h2>

<p>ChatGPT 5.5 Pro的表现引发了AI社区的广泛讨论。有观点认为,这标志着大语言模型在形式推理领域取得了重要突破。也有研究者持谨慎态度,指出:</p>

<ul>
<li>单一数学家的主观测试不能替代系统性基准评估</li>
<li>模型可能在训练数据中见过类似题目</li>
<li>真正的数学创新(如提出新定理、发现新证明)仍然是AI的短板</li>
</ul>

<p>无论如何,AI在数学推理方面的进步速度是实实在在的。对于站长和开发者来说,善用AI的推理能力来辅助技术工作,已经是一个切实可行的选择。</p>

<blockquote>
<p><strong>来源:</strong></p>
<ul>
<li><a href=Timothy Gowers Blog – A Recent Experience with ChatGPT 5.5 Pro
  • OSCHINA – ChatGPT 5.5 Pro一小时攻克博士级数学难题
  • -枫选">

    菲尔兹奖得主、剑桥大学数学家Timothy Gowers近日在个人博客上分享了他使用ChatGPT 5.5 Pro的体验。令他惊讶的是,这款模型在一小时内连续攻克了多个博士级别的数学难题,展现出远超前代的推理能力。

    菲尔兹奖得主的实测

    Timothy Gowers是当代最有影响力的数学家之一,1998年获得菲尔兹奖,在组合数学和泛函分析领域有重要贡献。他在5月8日发布了一篇详细的博文,记录了自己测试ChatGPT 5.5 Pro推理能力的过程。

    据Gowers描述,他给ChatGPT 5.5 Pro提出了多个需要深度推理的数学问题,这些问题的难度大致相当于数学博士资格考试或研究级别。让他印象深刻的是,模型不仅能够给出正确答案,还能提供完整的推理过程,包括:

    • 对问题的准确理解
    • 合理的解题策略选择
    • 严密的逻辑推导链
    • 对特殊情况的处理

    与前代模型的对比

    Gowers在博文中提到,之前版本的ChatGPT在处理类似难度的数学问题时,经常出现以下问题:

    • 推理链中途断裂,得出错误结论
    • 混淆不同数学概念
    • 在计算步骤中出错
    • 无法识别问题的关键约束条件

    而ChatGPT 5.5 Pro在这些方面有了显著提升。Gowers认为,这一代模型的数学推理能力已经达到了”可以辅助专业数学研究”的水平。

    对普通用户意味着什么

    虽然菲尔兹奖级别的数学测试看起来离普通人很远,但ChatGPT 5.5 Pro展现出的推理能力提升,对日常使用也有实际影响:

    • 编程辅助:更强的逻辑推理能力意味着在代码调试、算法设计等场景下能给出更准确的建议。
    • 数据分析:处理复杂的数据分析任务时,模型能更好地理解数据关系和统计方法。
    • 技术文档:在撰写技术文档、API文档等需要严密逻辑的内容时,输出质量更高。
    • 教育辅导:作为学习辅助工具,能提供更准确的解题思路和步骤讲解。

    AI数学能力的里程碑

    ChatGPT 5.5 Pro的表现引发了AI社区的广泛讨论。有观点认为,这标志着大语言模型在形式推理领域取得了重要突破。也有研究者持谨慎态度,指出:

    • 单一数学家的主观测试不能替代系统性基准评估
    • 模型可能在训练数据中见过类似题目
    • 真正的数学创新(如提出新定理、发现新证明)仍然是AI的短板

    无论如何,AI在数学推理方面的进步速度是实实在在的。对于站长和开发者来说,善用AI的推理能力来辅助技术工作,已经是一个切实可行的选择。

    来源:

    菲尔兹奖得主、剑桥大学数学家Timothy Gowers近日在个人博客上分享了他使用ChatGPT 5.5 Pro的...

    11天前 56
    评论 抢沙发

    请登录后发表评论

      暂无评论内容