Agent 安全星盘 · 定期报告

周报第 6 期 · 11 月 1 – 7 日

2026-11-01 – 2026-11-07 · 发布于 2026-11-12 · English

主题「安全评测、护栏与红队」本周新增 10 篇,此前三期平均是 5.7 篇。

127篇新论文
126.7此前三期首次统计的平均
191篇新确认录用
26个新开源仓库
16%有业界作者

本期要点

  1. 6 篇 · 新论文最多的方向是「VLA 安全(视觉-语言-动作模型)」其次:智能体系统架构与运行时工程 6;工具型 Agent 的间接注入防御 5;Agent 过程评测与执行审计 5
  2. 5 此前三期平均 0.7 · 升温最明显的是「LLM 集成应用中的提示注入与信息泄露」同样在升温:Agent 框架的执行控制与保障 5;工具型 Agent 的间接注入防御 5;MCP 服务器与协议安全 3
  3. 191 篇 · 新确认被会议或期刊录用其中 3 篇在安全四大或 ML 三大。最多的是 EMNLP 2026 134;Proceedings of the Second Workshop for REsearch on Agent Language Models (REALM 2026) 2026 7;AAAI 2026 6
  4. 16 次新引用 · 被新论文引用最多的已有论文:AgentHarm: A Benchmark for Measuring Harmfulness of LLM Agents其中 2 次是实质使用(当作方法、基准或对比对象)。2024-10 · 工具使用的安全评测与风险意识
  5. 16% · 的新论文有业界作者此前三期是 13%。另有 62 家机构在这一领域发表了第一篇论文。
  6. +15,971 星标 · 星标增长最快的仓库:affaan-m/ECC这一时段新建了 26 个仓库。

值得先读

  1. MetaPI: Constructing Prompt Injection Benchmarks from LLM Agent BenchmarkNeurIPS 2026 · Main conference(ML 三大);来自 Yuan Tian 团队(University of California, Los Angeles);提出了评测基准 · 现有 indirect prompt injection 基准任务和环境覆盖窄、攻击场景静态,跟不上 utility 基准的发展。
  2. Failure Prediction and Classification in Vision-Language-Action Models Via Calibrated Latent Probing来自 Ufuk Topcu 团队(The University of Texas at Austin);公开了代码;提出了评测基准 · VLA 在分布偏移下易意外失败,需要及时、校准、能说明失败类型的运行时监控。
  3. Airlock: Bounding the Multi-Agent Blast Radius via Selective Online Containment来自 Hamed Haddadi 团队(Imperial College London);公开了代码;提出了评测基准 · 多智能体系统中单个 agent 的错误输出在被检测前跨任务扩散,形成系统级 blast radius。
  4. MCP Tool Poisoning in Agentic AI Frameworks: A Cross-Framework Measurement Study公开了代码;提出了评测基准 · MCP 将攻击者可控的工具描述、schema 字段和响应数据不经验证送入模型上下文,导致 tool poisoning。
  5. The Customer Never Sees the Goal: Measuring and Detecting Vulnerability-Targeted Manipulation in LLM Assistants公开了代码;提出了评测基准 · 运营方给 LLM 助手设定客户看不到的商业目标,助手可能利用客户披露的弱点进行操纵(VTM)。

按规则挑选:会议档次、是否来自上榜团队、是否公开代码、是否提出评测基准、是否已被后来的论文使用;每个主题最多两篇。

方向雷达

方向本期此前三期平均
↑ LLM 集成应用中的提示注入与信息泄露50.7
↑ Agent 框架的执行控制与保障51.7
↑ 工具型 Agent 的间接注入防御52.7
↑ MCP 服务器与协议安全31
↑ Agent 红队与跨会话威胁31
↓ 情境完整性与隐私泄露04.3
↓ 提示注入检测与模型层防御25.7
↓ 编码 Agent 与软件工程安全36.7
↓ AI 控制与蓄意破坏评估03.3

谁在动

第一次在这一领域发表论文的机构:Eastern International University、Jiffy Labs、Thu Dau Mot University、University of Information Technology、ABLEs、AGH University of Krakow、AWS Agentic AI、Abylkas Saginov Karaganda Technical University、Achiral Research、Acompany Co.

开源与模型

结论变了什么

收录的论文6,318 → 6,421
近 12 个月的新论文4,314 → 4,397
有论文收录的机构3,889 → 3,942
开源仓库7,889 → 8,073

另外 9 项结论的数字变动不到 0.5 个百分点。

上期修订

2026-10-25 – 2026-10-31 首次统计 134 篇,之后补录 3 篇,现为 137 篇。

在星盘里打开这一期