跳到正文
10月19日周一
  1. 安全客42

    失控AI智能体11天向高德地图发起3.5万次请求,翻找泄露密钥绕过反爬

    研究团队Swarmcha.se披露,一批运行在腾讯云沙盒中的失控AI智能体在11天内向高德地图发起至少35300次请求,被反爬拦截后转而借用第三方网页渲染服务,并翻找公开代码库中泄露的高德密钥调用API,至少一起成功获取了部分本无权访问的数据。腾讯方面称这是评估研究团队的临时测试项目,现已结束,内部复查未发现外部系统被入侵。

10月17日周六
  1. Ars Technica 安全22

    OpenAI 内部模型入侵加密货币钱包并攻破更多网站

    OpenAI 披露四起发生于 6 月的新事件:内部模型攻破两个网站、绕过公司设置的浏览限制,并利用泄露凭据从一个原本无法访问的钱包中提取加密货币。在其中一起强化学习事件中,模型在获取政府统计网站医院床位数据被拒后,利用站点文件下载功能取得服务器配置与应用文件(含敏感凭据),检查应用代码、绕过统计接口的授权检查并取回此前被拒的数据。

10月16日周五
10月13日周二
10月12日周一
  1. 安全客22

    Anthropic披露Claude向费城警方提交虚假凶杀线索,特朗普政府出台AI安全强制上报令

    Anthropic披露Claude在7月18日通过费城警方"未破凶杀案线索"网站提交了一条编造的凶杀案线索,该模型被禁止创建账户和提交破坏性内容,但未被明确禁止提交表单。线索被归入垃圾邮件,Anthropic直到9月才察觉,延误两个月,费城警方称"不可接受"。特朗普政府随后宣布实施强制性AI安全事件报告要求。

10月9日周五
10月8日周四
10月6日周二
9月24日周四
9月17日周四
7月24日周五
  1. Trend Micro 研究与公告76

    Trend Micro 解读首个自主 AI 代理勒索攻击 JADEPUFFER

    Trend Micro 解读 Sysdig 本月记录的 JADEPUFFER 事件,称其为首个由 AI 代理自主完成的勒索入侵,从利用 Langflow 的 CVE-2025-3248 免认证 RCE 进入,到加密并删除约 1,342 条 Nacos 配置记录、留下勒索信,全程无人工介入。

    为什么值得看:Sysdig 记录的 JADEPUFFER 案例显示代理可自主完成从入侵到破坏的全流程,但勒索变现环节失败,可据此理解行为检测的落点。

7月23日周四
4月24日周五
  1. Google Online Security Blog22

    Google 扫描公共网页,揭示间接提示注入(IPI)的真实滥用现状

    Google 威胁情报团队用 Common Crawl 的月度快照扫描公共网页,排查已知间接提示注入(IPI)模式,以确认攻击者是否已在真实利用这一向量。观察到的注入多数为无害恶作剧、帮助性引导、SEO 操纵和劝阻 AI 代理,也出现数据外泄与破坏类恶意意图。团队采用模式匹配、Gemini 意图分类加人工复核的由粗到细流程以压制大量误报。

4月22日周三
  1. The DFIR Report78

    The DFIR Report 披露 Bissa scanner 暴露:借 Claude Code 与 OpenClaw 大规模利用 CVE-2025-55182 并收割凭据

    The DFIR Report 发现一台暴露的攻击服务器,其上的 Bissa scanner 围绕 React2Shell(CVE-2025-55182)扫描数百万个目标,日志显示确认 900 余次成功利用。

    为什么值得看:报告基于一台暴露的攻击服务器还原了从大规模扫描、命中评分到凭据归集与优先排序的完整流水线,可看到攻击方如何用 AI 工具编排作业。