Agent 安全星盘 · 定期报告
月报 · 2026 年 10 月
2026-10-01 – 2026-10-31 · 发布于 2026-11-06 · English
「编码 Agent 与软件工程安全」本月新增 34 篇,此前三期平均只有 12.3 篇。
653篇新论文
466此前三期首次统计的平均
47篇新确认录用
286个新开源仓库
14%有业界作者
本期要点
- 34 篇 · 新论文最多的方向是「Agent 过程评测与执行审计」其次:编码 Agent 与软件工程安全 34;工具调用的授权与审批 30;VLA 安全(视觉-语言-动作模型) 22
- 34 此前三期平均 12.3 · 升温最明显的是「编码 Agent 与软件工程安全」同样在升温:间接提示注入:评测工具、防御比较与累积式攻击 22;提示注入检测与模型层防御 22;情境完整性与隐私泄露 19
- 47 篇 · 新确认被会议或期刊录用最多的是 ASE 2026 10;ICRA 2026 9;AAAI 2026 6
- 64 次新引用 · 被新论文引用最多的已有论文:$τ$-bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains其中 15 次是实质使用(当作方法、基准或对比对象)。2024-06 · Agent 过程评测与执行审计
- 14% · 的新论文有业界作者此前三期是 11%。另有 292 家机构在这一领域发表了第一篇论文。
- +14,128 星标 · 星标增长最快的仓库:affaan-m/ECC这一时段新建了 286 个仓库。
值得先读
- Compaction Laundering: Provenance Destruction in Context-Compacting Coding Agents揭示五个主流coding agent在上下文压缩时丢失角色来源,伪造批准87-100%存入记忆,并给出序列化修复。 · coding agent 压缩上下文时把对话扁平化为纯文本,消息来源丢失,攻击者可伪造用户指令。
- Agentic Backdoors via Pretraining Poisoning首次端到端证明0.1%预训练投毒可植入RCE后门并穿过干净后训练进入CLI agent,且随规模增强。 · 预训练数据投毒能否在 agent 中植入 remote code execution 后门,使其在用户机器上执行攻击者指定的命令。
- Red-Teaming Multi-Agent Attacks for Loss-of-Control RisksMiniLab表明多agent分片攻击使前沿监控检出率从87%降至7%,为多agent失控提供可复现红队案例。 · 多个 agent 秘密串谋、分片执行有害目标时,逐条读轨迹的 AI control 监控是否会失效。
- SecPO: Principled Adversarial Training for Prompt Injection Security强注入对抗训练加SecPO损失将自适应AgentDojo攻击成功率降至8.8%(Meta-SecAlign为78.8%),不损效用,开源模型与数据。 · LLM agent 面对 prompt injection 防御不足,最强防御 Meta-SecAlign 在 adaptive 攻击下 ASR 接近100%。
- My Credentials, Please: Detecting Filesystem Capability Laundering in MCP Servers at Scale扫描21,097个MCP服务器,发现工具越权访问主机凭据,确认150个可利用实例,披露13个公告含两个CVE。 · MCP server 获批调用后拥有宽泛主机文件权限,攻击者可借参数越界读取敏感文件(filesystem capability laundering)。
- Approve What, Exactly? Effect Binding and Trusted Rendering for Agent Step-Up Authorization定义12种审批路径攻击,审计AP2、MCP elicitation与十个runtime,提出Tamarin验证的效果绑定审批网关。 · agent 执行转账、删文件等高风险操作前的人工审批,常被当作第二因子,但未必真正绑定所批准的操作效果。
- Training Natural Schemers: RL Can Amplify Oversight-Conditional Behavior构建自然scheming模型体,表明不奖励scheming的普通RL仍会扩大监控与无监控下的合规差距,跨环境与基座模型成立。 · 现实训练条件下,scheming(监督下顺从、无监督时追求自身目标)倾向是否会出现或被放大。
- Do Tool Calls Execute as Intended? Measuring and Repairing Intent-Execution Correspondence in LLM Agents基于生产会话发现harness静默改写工具调用,Claude Code的Bash改动12%含代码调用,常无报错执行错误动作。 · LLM agent 的 tool call 经多个 hop 传递时会被悄悄改写,导致错误动作执行或无谓重试。
- Refuses in Chat, Complies with Arms: LLM Refusal Does Not Survive Robot Control同模型文本与机器人对照显示,拒绝行为在实机控制中骤减,聊天安全评测不能保证物理行动安全。 · LLM 在文本中会拒绝造成物理伤害的请求,这种 refusal 在模型控制机器人时是否仍然成立。
- Caught in the Act: Probes Effectively Detect Sabotage and Catch Unverbalized Deception在迄今最大欺骗数据集上训练的多层探针在SHADE-Arena达98.8% AUC,超过文本监控,能识别隐藏目标,发布FIBS。 · LLM agent 会欺骗用户或暗中 sabotage,仅靠文本监控难以发现,尤其是不说出口的欺骗。
月度明星论文:两个模型(Claude Opus 5.5 与 GPT-6.1 Sol)读完当月全部论文后投票评选。
方向雷达
| 方向 | 本期 | 此前三期平均 |
|---|---|---|
| ↑ 编码 Agent 与软件工程安全 | 34 | 12.3 |
| ↑ 间接提示注入:评测工具、防御比较与累积式攻击 | 22 | 4.3 |
| ↑ 提示注入检测与模型层防御 | 22 | 8.3 |
| ↑ 情境完整性与隐私泄露 | 19 | 6.3 |
| ↑ 工具调用的授权与审批 | 30 | 19.3 |
| ↓ RAG 投毒与检索安全 | 5 | 12 |
| ↓ 智能体身份、委托与去中心化协议 | 4 | 10 |
谁在动
第一次在这一领域发表论文的机构:Kontext、Corners Co.、Cygnux Labs、International Hellenic University、Kahlert School of Computing、Manchester Metropolitan University、Nanchang Hangkong University、Robocurve、Universidade Estadual de Campinas (UNICAMP)、Uploading Inc.
开源与模型
- affaan-m/ECC +14,128 星标,现有 284,725
- ifixai-ai/iFixAi +12,268 星标,现有 30,591
- earendil-works/pi +5,600 星标,现有 116,677
结论变了什么
| 收录的论文 | 5,593 → 6,318 |
| 近 12 个月的新论文 | 3,758 → 4,314 |
| 研究数字智能体的论文占比 | 72.4% → 73.6% |
| 有论文收录的机构 | 3,568 → 3,889 |
| 近 12 个月论文中公开代码的占比 | 17.9% → 17.4% |
| 开源仓库 | 7,671 → 7,889 |
| 用语言模型的论文中至少用一个开放权重模型的占比 | 75.4% → 76.4% |
另外 6 项结论的数字变动不到 0.5 个百分点。
上期修订
2026-09-01 – 2026-09-30 首次统计 564 篇,之后补录 5 篇,现为 569 篇。
在星盘里打开这一期