Agent 安全星盘 · 定期报告
周报第 7 期 · 11 月 8 – 14 日
2026-11-08 – 2026-11-14 · 发布于 2026-11-16 · English
本周新增 64 篇论文,比此前三期首次统计的平均(134 篇)少 52%。
64篇新论文
134此前三期首次统计的平均
29篇新确认录用
18个新开源仓库
19%有业界作者
本期要点
- 5 篇 · 新论文最多的方向是「工具型 Agent 的间接注入防御」其次:欺骗、谋划与故意藏拙 3;奖励投机、自我改进与科研 Agent 3;AI 控制与蓄意破坏评估 3
- 29 篇 · 新确认被会议或期刊录用其中 4 篇在安全四大或 ML 三大。最多的是 MM 2026 5;AI Summit '26: ACM AI Leadership Summit 2026 2026 5;ACM CCS 2026 4
- 9 次新引用 · 被新论文引用最多的已有论文:Progent: Securing AI Agents with Privilege Control其中 3 次是实质使用(当作方法、基准或对比对象)。2025-04 · 工具型 Agent 的间接注入防御
- 19% · 的新论文有业界作者此前三期是 13%。另有 32 家机构在这一领域发表了第一篇论文。
- +15,971 星标 · 星标增长最快的仓库:affaan-m/ECC这一时段新建了 18 个仓库。
值得先读
- Tracing MCP Security Vulnerabilities: Constructing and Analyzing an MCP Security Vulnerability DatasetIEEE S&P 2026 · Proceedings(安全四大);提出了评测基准 · MCP 漏洞信息分散、噪声大,难以系统研究其软件安全攻击面。
- FraudBench: A Legal Evaluation of AI Deception来自 Noam Kolt 团队(Hebrew University of Jerusalem);提出了评测基准 · LLM 在高风险商业场景中是否会建议、协助或直接实施美国法律意义上的欺诈。
- Scaling Adaptive Prompt Injection Attacks with Agent Swarms来自 Kamalika Chaudhuri 团队(University of California San Diego);提出了评测基准 · 在公开 prompt injection 基准与人工 red-teaming 看似饱和时,检验 agent 是否仍会被注入攻破。
- HARP-Bench: Benchmarking Robot Manipulation Around Active Humans公开了代码;提出了评测基准 · 现有操作基准假设机器人是唯一主动方,忽略人在共享工作空间中带来的任务变化与安全约束。
- Contain, Conform, Compare (Extended Version): A Red-Teamed Evaluation Kit for Small Coding Agents and the Full Record of Its Experiments公开了代码;提出了评测基准 · 竞赛托管评分只给一个噪声大的分数,需要快速、能安全运行 agent 所写代码且与托管评分一致的本地评测器。
按规则挑选:会议档次、是否来自上榜团队、是否公开代码、是否提出评测基准、是否已被后来的论文使用;每个主题最多两篇。
方向雷达
| 方向 | 本期 | 此前三期平均 |
|---|---|---|
| ↓ Agent 过程评测与执行审计 | 2 | 6.7 |
| ↓ 编码 Agent 与软件工程安全 | 2 | 6 |
| ↓ 提示注入检测与模型层防御 | 1 | 4.7 |
| ↓ 工具调用的授权与审批 | 2 | 5.7 |
| ↓ 智能体社会与合作行为 | 0 | 3.7 |
谁在动
第一次在这一领域发表论文的机构:Alation、Alibaba AAIG、Allianz Group、Artificial Societies、Berlin Institute of Health at Charité - Universitätsmedizin Berlin、Charité – Universitätsmedizin Berlin、Czech Academy of Sciences、Department of Computer Science and Engineering CMR Institute of Technology、Department of Statistics and Data Science、ERA:AI
开源与模型
- affaan-m/ECC +15,971 星标,现有 300,696
- ifixai-ai/iFixAi +13,919 星标,现有 44,510
- earendil-works/pi +4,561 星标,现有 121,238
结论变了什么
| 收录的论文 | 6,421 → 6,449 |
| 近 12 个月的新论文 | 4,397 → 4,414 |
| 有论文收录的机构 | 3,942 → 3,953 |
另外 10 项结论的数字变动不到 0.5 个百分点。
上期修订
2026-11-01 – 2026-11-07 首次统计 127 篇,之后补录 0 篇,现为 127 篇。
在星盘里打开这一期