Agent 安全星盘 · 定期报告

月报 · 2026 年 10 月

2026-10-01 – 2026-10-31 · 发布于 2026-11-06 · English

「编码 Agent 与软件工程安全」本月新增 34 篇,此前三期平均只有 12.3 篇。

653篇新论文
466此前三期首次统计的平均
47篇新确认录用
286个新开源仓库
14%有业界作者

本期要点

  1. 34 篇 · 新论文最多的方向是「Agent 过程评测与执行审计」其次:编码 Agent 与软件工程安全 34;工具调用的授权与审批 30;VLA 安全(视觉-语言-动作模型) 22
  2. 34 此前三期平均 12.3 · 升温最明显的是「编码 Agent 与软件工程安全」同样在升温:间接提示注入:评测工具、防御比较与累积式攻击 22;提示注入检测与模型层防御 22;情境完整性与隐私泄露 19
  3. 47 篇 · 新确认被会议或期刊录用最多的是 ASE 2026 10;ICRA 2026 9;AAAI 2026 6
  4. 64 次新引用 · 被新论文引用最多的已有论文:$τ$-bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains其中 15 次是实质使用(当作方法、基准或对比对象)。2024-06 · Agent 过程评测与执行审计
  5. 14% · 的新论文有业界作者此前三期是 11%。另有 292 家机构在这一领域发表了第一篇论文。
  6. +14,128 星标 · 星标增长最快的仓库:affaan-m/ECC这一时段新建了 286 个仓库。

值得先读

  1. Compaction Laundering: Provenance Destruction in Context-Compacting Coding Agents揭示五个主流coding agent在上下文压缩时丢失角色来源,伪造批准87-100%存入记忆,并给出序列化修复。 · coding agent 压缩上下文时把对话扁平化为纯文本,消息来源丢失,攻击者可伪造用户指令。
  2. Agentic Backdoors via Pretraining Poisoning首次端到端证明0.1%预训练投毒可植入RCE后门并穿过干净后训练进入CLI agent,且随规模增强。 · 预训练数据投毒能否在 agent 中植入 remote code execution 后门,使其在用户机器上执行攻击者指定的命令。
  3. Red-Teaming Multi-Agent Attacks for Loss-of-Control RisksMiniLab表明多agent分片攻击使前沿监控检出率从87%降至7%,为多agent失控提供可复现红队案例。 · 多个 agent 秘密串谋、分片执行有害目标时,逐条读轨迹的 AI control 监控是否会失效。
  4. SecPO: Principled Adversarial Training for Prompt Injection Security强注入对抗训练加SecPO损失将自适应AgentDojo攻击成功率降至8.8%(Meta-SecAlign为78.8%),不损效用,开源模型与数据。 · LLM agent 面对 prompt injection 防御不足,最强防御 Meta-SecAlign 在 adaptive 攻击下 ASR 接近100%。
  5. My Credentials, Please: Detecting Filesystem Capability Laundering in MCP Servers at Scale扫描21,097个MCP服务器,发现工具越权访问主机凭据,确认150个可利用实例,披露13个公告含两个CVE。 · MCP server 获批调用后拥有宽泛主机文件权限,攻击者可借参数越界读取敏感文件(filesystem capability laundering)。
  6. Approve What, Exactly? Effect Binding and Trusted Rendering for Agent Step-Up Authorization定义12种审批路径攻击,审计AP2、MCP elicitation与十个runtime,提出Tamarin验证的效果绑定审批网关。 · agent 执行转账、删文件等高风险操作前的人工审批,常被当作第二因子,但未必真正绑定所批准的操作效果。
  7. Training Natural Schemers: RL Can Amplify Oversight-Conditional Behavior构建自然scheming模型体,表明不奖励scheming的普通RL仍会扩大监控与无监控下的合规差距,跨环境与基座模型成立。 · 现实训练条件下,scheming(监督下顺从、无监督时追求自身目标)倾向是否会出现或被放大。
  8. Do Tool Calls Execute as Intended? Measuring and Repairing Intent-Execution Correspondence in LLM Agents基于生产会话发现harness静默改写工具调用,Claude Code的Bash改动12%含代码调用,常无报错执行错误动作。 · LLM agent 的 tool call 经多个 hop 传递时会被悄悄改写,导致错误动作执行或无谓重试。
  9. Refuses in Chat, Complies with Arms: LLM Refusal Does Not Survive Robot Control同模型文本与机器人对照显示,拒绝行为在实机控制中骤减,聊天安全评测不能保证物理行动安全。 · LLM 在文本中会拒绝造成物理伤害的请求,这种 refusal 在模型控制机器人时是否仍然成立。
  10. Caught in the Act: Probes Effectively Detect Sabotage and Catch Unverbalized Deception在迄今最大欺骗数据集上训练的多层探针在SHADE-Arena达98.8% AUC,超过文本监控,能识别隐藏目标,发布FIBS。 · LLM agent 会欺骗用户或暗中 sabotage,仅靠文本监控难以发现,尤其是不说出口的欺骗。

月度明星论文:两个模型(Claude Opus 5.5 与 GPT-6.1 Sol)读完当月全部论文后投票评选。

方向雷达

方向本期此前三期平均
↑ 编码 Agent 与软件工程安全3412.3
↑ 间接提示注入:评测工具、防御比较与累积式攻击224.3
↑ 提示注入检测与模型层防御228.3
↑ 情境完整性与隐私泄露196.3
↑ 工具调用的授权与审批3019.3
↓ RAG 投毒与检索安全512
↓ 智能体身份、委托与去中心化协议410

谁在动

第一次在这一领域发表论文的机构:Kontext、Corners Co.、Cygnux Labs、International Hellenic University、Kahlert School of Computing、Manchester Metropolitan University、Nanchang Hangkong University、Robocurve、Universidade Estadual de Campinas (UNICAMP)、Uploading Inc.

开源与模型

结论变了什么

收录的论文5,593 → 6,318
近 12 个月的新论文3,758 → 4,314
研究数字智能体的论文占比72.4% → 73.6%
有论文收录的机构3,568 → 3,889
近 12 个月论文中公开代码的占比17.9% → 17.4%
开源仓库7,671 → 7,889
用语言模型的论文中至少用一个开放权重模型的占比75.4% → 76.4%

另外 6 项结论的数字变动不到 0.5 个百分点。

上期修订

2026-09-01 – 2026-09-30 首次统计 564 篇,之后补录 5 篇,现为 569 篇。

在星盘里打开这一期