Agent 安全星盘 · 定期报告

周报第 2 期 · 10 月 4 – 10 日

2026-10-04 – 2026-10-10 · 发布于 2026-10-12 · English

本周新增 51 篇论文,比此前三期首次统计的平均(133 篇)少 62%。

51篇新论文
132.7此前三期首次统计的平均
11篇新确认录用
91个新开源仓库
18%有业界作者

本期要点

  1. 5 篇 · 新论文最多的方向是「Agent 过程评测与执行审计」其次:欺骗、谋划与故意藏拙 4;GUI 与网页 Agent 的注入与欺骗 3;提示注入检测与模型层防御 3
  2. 11 篇 · 新确认被会议或期刊录用最多的是 Proceedings of the ACM on Software Engineering 2026 3;SOSP 2026 1;Logical Methods in Computer Science 2026 1
  3. 2 次新引用 · 被新论文引用最多的已有论文:EIA: ENVIRONMENTAL INJECTION ATTACK ON GENERALIST WEB AGENTS FOR PRIVACY LEAKAGE其中 2 次是实质使用(当作方法、基准或对比对象)。2024-09 · GUI 与网页 Agent 的注入与欺骗
  4. 18% · 的新论文有业界作者此前三期是 13%。另有 16 家机构在这一领域发表了第一篇论文。
  5. +4,644 星标 · 星标增长最快的仓库:affaan-m/ECC这一时段新建了 91 个仓库。

值得先读

  1. Formal Runtime Verification for Tool-Using LLM Agents: An Offline Same-Benchmark Study on AgentDojo and STACACM CCS 2026 · Proceedings(安全四大);提出了评测基准 · tool-using LLM agent 的 guardrail 多为应用专用规则,多步、依赖数据的安全策略难以描述、审计和复用。
  2. Safe, Persistent, and Evolving Agent Harness for Understanding Partially Observable Worlds来自 Yangqiu Song 团队(HKUST);公开了代码;提出了评测基准 · 企业工作流中 LLM agent 的动作需严格符合组织策略,且需应对部分可观测下的隐藏副作用和长程状态跟踪。
  3. Constrained-Action AI Remediation for SIEM/XDR via a NeMo-Guardrails Proxy公开了代码;提出了评测基准 · SOC 中 LLM 自动处置告警时,对抗性告警可经 LLM 推理诱导其推荐并执行危险命令。
  4. TestJack: Should you trust the results in coding benchmarks? Agentic Coding Benchmarks Auditing via Evaluator Evolution来自 Dawn Song 团队(University of California, Berkeley);提出了评测基准 · coding benchmark 只靠固定 unit tests 判对,agent 可 reward hack 或漏掉需求仍通过,分数失真。
  5. TMT: Runtime Backdoor Detection for Vision-Language-Action Policies on Unseen Tasks公开了代码;提出了评测基准 · 检测被植入 backdoor 的 VLA policy 在运行时被 trigger 激活,尤其在未见过的任务上。

按规则挑选:会议档次、是否来自上榜团队、是否公开代码、是否提出评测基准、是否已被后来的论文使用;每个主题最多两篇。

方向雷达

方向本期此前三期平均
↓ VLA 安全(视觉-语言-动作模型)17
↓ 记忆投毒与长期记忆安全16.7
↓ 工具调用的授权与审批38.7
↓ 工具型 Agent 的间接注入防御27
↓ 奖励投机、自我改进与科研 Agent26.7

谁在动

第一次在这一领域发表论文的机构:International Hellenic University、AWS Forward Deployed Engineering、Corners Co.、Cribl AI Research Lab、Department of Computational and Data Sciences、Department of Electrical and Systems Engineering、Digital Economy Lab、Northeastern University at Qinhuangdao、Pazhou Laboratory、Philadelphia

开源与模型

结论变了什么

收录的论文5,593 → 5,645
近 12 个月的新论文3,758 → 3,773
有论文收录的机构3,568 → 3,585
开源仓库7,671 → 7,724

另外 9 项结论的数字变动不到 0.5 个百分点。

上期修订

2026-09-27 – 2026-10-03 首次统计 149 篇,之后补录 0 篇,现为 149 篇。

在星盘里打开这一期