Agent 安全星盘 · 定期报告
周报第 6 期 · 11 月 1 – 7 日
2026-11-01 – 2026-11-07 · 发布于 2026-11-12 · English
主题「安全评测、护栏与红队」本周新增 10 篇,此前三期平均是 5.7 篇。
127篇新论文
126.7此前三期首次统计的平均
191篇新确认录用
26个新开源仓库
16%有业界作者
本期要点
- 6 篇 · 新论文最多的方向是「VLA 安全(视觉-语言-动作模型)」其次:智能体系统架构与运行时工程 6;工具型 Agent 的间接注入防御 5;Agent 过程评测与执行审计 5
- 5 此前三期平均 0.7 · 升温最明显的是「LLM 集成应用中的提示注入与信息泄露」同样在升温:Agent 框架的执行控制与保障 5;工具型 Agent 的间接注入防御 5;MCP 服务器与协议安全 3
- 191 篇 · 新确认被会议或期刊录用其中 3 篇在安全四大或 ML 三大。最多的是 EMNLP 2026 134;Proceedings of the Second Workshop for REsearch on Agent Language Models (REALM 2026) 2026 7;AAAI 2026 6
- 16 次新引用 · 被新论文引用最多的已有论文:AgentHarm: A Benchmark for Measuring Harmfulness of LLM Agents其中 2 次是实质使用(当作方法、基准或对比对象)。2024-10 · 工具使用的安全评测与风险意识
- 16% · 的新论文有业界作者此前三期是 13%。另有 62 家机构在这一领域发表了第一篇论文。
- +15,971 星标 · 星标增长最快的仓库:affaan-m/ECC这一时段新建了 26 个仓库。
值得先读
- MetaPI: Constructing Prompt Injection Benchmarks from LLM Agent BenchmarkNeurIPS 2026 · Main conference(ML 三大);来自 Yuan Tian 团队(University of California, Los Angeles);提出了评测基准 · 现有 indirect prompt injection 基准任务和环境覆盖窄、攻击场景静态,跟不上 utility 基准的发展。
- Failure Prediction and Classification in Vision-Language-Action Models Via Calibrated Latent Probing来自 Ufuk Topcu 团队(The University of Texas at Austin);公开了代码;提出了评测基准 · VLA 在分布偏移下易意外失败,需要及时、校准、能说明失败类型的运行时监控。
- Airlock: Bounding the Multi-Agent Blast Radius via Selective Online Containment来自 Hamed Haddadi 团队(Imperial College London);公开了代码;提出了评测基准 · 多智能体系统中单个 agent 的错误输出在被检测前跨任务扩散,形成系统级 blast radius。
- MCP Tool Poisoning in Agentic AI Frameworks: A Cross-Framework Measurement Study公开了代码;提出了评测基准 · MCP 将攻击者可控的工具描述、schema 字段和响应数据不经验证送入模型上下文,导致 tool poisoning。
- The Customer Never Sees the Goal: Measuring and Detecting Vulnerability-Targeted Manipulation in LLM Assistants公开了代码;提出了评测基准 · 运营方给 LLM 助手设定客户看不到的商业目标,助手可能利用客户披露的弱点进行操纵(VTM)。
按规则挑选:会议档次、是否来自上榜团队、是否公开代码、是否提出评测基准、是否已被后来的论文使用;每个主题最多两篇。
方向雷达
| 方向 | 本期 | 此前三期平均 |
|---|---|---|
| ↑ LLM 集成应用中的提示注入与信息泄露 | 5 | 0.7 |
| ↑ Agent 框架的执行控制与保障 | 5 | 1.7 |
| ↑ 工具型 Agent 的间接注入防御 | 5 | 2.7 |
| ↑ MCP 服务器与协议安全 | 3 | 1 |
| ↑ Agent 红队与跨会话威胁 | 3 | 1 |
| ↓ 情境完整性与隐私泄露 | 0 | 4.3 |
| ↓ 提示注入检测与模型层防御 | 2 | 5.7 |
| ↓ 编码 Agent 与软件工程安全 | 3 | 6.7 |
| ↓ AI 控制与蓄意破坏评估 | 0 | 3.3 |
谁在动
第一次在这一领域发表论文的机构:Eastern International University、Jiffy Labs、Thu Dau Mot University、University of Information Technology、ABLEs、AGH University of Krakow、AWS Agentic AI、Abylkas Saginov Karaganda Technical University、Achiral Research、Acompany Co.
开源与模型
- affaan-m/ECC +15,971 星标,现有 300,696
- ifixai-ai/iFixAi +13,919 星标,现有 44,510
- earendil-works/pi +4,561 星标,现有 121,238
结论变了什么
| 收录的论文 | 6,318 → 6,421 |
| 近 12 个月的新论文 | 4,314 → 4,397 |
| 有论文收录的机构 | 3,889 → 3,942 |
| 开源仓库 | 7,889 → 8,073 |
另外 9 项结论的数字变动不到 0.5 个百分点。
上期修订
2026-10-25 – 2026-10-31 首次统计 134 篇,之后补录 3 篇,现为 137 篇。
在星盘里打开这一期