Agent 安全星盘 · 定期报告

周报第 7 期 · 11 月 8 – 14 日

2026-11-08 – 2026-11-14 · 发布于 2026-11-16 · English

本周新增 64 篇论文,比此前三期首次统计的平均(134 篇)少 52%。

64篇新论文
134此前三期首次统计的平均
29篇新确认录用
18个新开源仓库
19%有业界作者

本期要点

  1. 5 篇 · 新论文最多的方向是「工具型 Agent 的间接注入防御」其次:欺骗、谋划与故意藏拙 3;奖励投机、自我改进与科研 Agent 3;AI 控制与蓄意破坏评估 3
  2. 29 篇 · 新确认被会议或期刊录用其中 4 篇在安全四大或 ML 三大。最多的是 MM 2026 5;AI Summit '26: ACM AI Leadership Summit 2026 2026 5;ACM CCS 2026 4
  3. 9 次新引用 · 被新论文引用最多的已有论文:Progent: Securing AI Agents with Privilege Control其中 3 次是实质使用(当作方法、基准或对比对象)。2025-04 · 工具型 Agent 的间接注入防御
  4. 19% · 的新论文有业界作者此前三期是 13%。另有 32 家机构在这一领域发表了第一篇论文。
  5. +15,971 星标 · 星标增长最快的仓库:affaan-m/ECC这一时段新建了 18 个仓库。

值得先读

  1. Tracing MCP Security Vulnerabilities: Constructing and Analyzing an MCP Security Vulnerability DatasetIEEE S&P 2026 · Proceedings(安全四大);提出了评测基准 · MCP 漏洞信息分散、噪声大,难以系统研究其软件安全攻击面。
  2. FraudBench: A Legal Evaluation of AI Deception来自 Noam Kolt 团队(Hebrew University of Jerusalem);提出了评测基准 · LLM 在高风险商业场景中是否会建议、协助或直接实施美国法律意义上的欺诈。
  3. Scaling Adaptive Prompt Injection Attacks with Agent Swarms来自 Kamalika Chaudhuri 团队(University of California San Diego);提出了评测基准 · 在公开 prompt injection 基准与人工 red-teaming 看似饱和时,检验 agent 是否仍会被注入攻破。
  4. HARP-Bench: Benchmarking Robot Manipulation Around Active Humans公开了代码;提出了评测基准 · 现有操作基准假设机器人是唯一主动方,忽略人在共享工作空间中带来的任务变化与安全约束。
  5. Contain, Conform, Compare (Extended Version): A Red-Teamed Evaluation Kit for Small Coding Agents and the Full Record of Its Experiments公开了代码;提出了评测基准 · 竞赛托管评分只给一个噪声大的分数,需要快速、能安全运行 agent 所写代码且与托管评分一致的本地评测器。

按规则挑选:会议档次、是否来自上榜团队、是否公开代码、是否提出评测基准、是否已被后来的论文使用;每个主题最多两篇。

方向雷达

方向本期此前三期平均
↓ Agent 过程评测与执行审计26.7
↓ 编码 Agent 与软件工程安全26
↓ 提示注入检测与模型层防御14.7
↓ 工具调用的授权与审批25.7
↓ 智能体社会与合作行为03.7

谁在动

第一次在这一领域发表论文的机构:Alation、Alibaba AAIG、Allianz Group、Artificial Societies、Berlin Institute of Health at Charité - Universitätsmedizin Berlin、Charité – Universitätsmedizin Berlin、Czech Academy of Sciences、Department of Computer Science and Engineering CMR Institute of Technology、Department of Statistics and Data Science、ERA:AI

开源与模型

结论变了什么

收录的论文6,421 → 6,449
近 12 个月的新论文4,397 → 4,414
有论文收录的机构3,942 → 3,953

另外 10 项结论的数字变动不到 0.5 个百分点。

上期修订

2026-11-01 – 2026-11-07 首次统计 127 篇,之后补录 0 篇,现为 127 篇。

在星盘里打开这一期