Agent 安全星盘 · 定期报告

周报第 3 期 · 10 月 11 – 17 日

2026-10-11 – 2026-10-17 · 发布于 2026-10-19 · English

本周新增 105 篇论文,与此前三期首次统计的平均(108 篇)基本持平;最多的方向是「Agent 过程评测与执行审计」(8 篇)。

105篇新论文
107.7此前三期首次统计的平均
36篇新确认录用
66个新开源仓库
13%有业界作者

本期要点

  1. 8 篇 · 新论文最多的方向是「Agent 过程评测与执行审计」其次:智能体系统架构与运行时工程 7;工具调用的授权与审批 6;提示注入检测与模型层防御 5
  2. 7 此前三期平均 1.7 · 升温最明显的是「智能体系统架构与运行时工程」同样在升温:编码 Agent 与软件工程安全 5;语言 Agent 强化学习训练中的安全与对齐 3;情境完整性与隐私泄露 4
  3. 36 篇 · 新确认被会议或期刊录用最多的是 ASE 2026 10;ICRA 2026 9;AAAI 2026 6
  4. 10 次新引用 · 被新论文引用最多的已有论文:$τ$-bench: A Benchmark for Tool-Agent-User Interaction in Real-World Domains其中 5 次是实质使用(当作方法、基准或对比对象)。2024-06 · Agent 过程评测与执行审计
  5. 13% · 的新论文有业界作者此前三期是 15%。另有 38 家机构在这一领域发表了第一篇论文。
  6. +5,622 星标 · 星标增长最快的仓库:ifixai-ai/iFixAi这一时段新建了 66 个仓库。

值得先读

  1. TRAP: Tool-result Replay Attack for Probing Misbinding in LLM Agents来自 Jing Shao 团队(Shanghai Artificial Intelligence Laboratory);公开了代码;提出了评测基准 · 真实且未被篡改的 tool result 被重放到不兼容的执行上下文中,导致 agent 执行不安全动作(tool-result misbinding)。
  2. LatentRiskBench: Measuring State-Dependent Risks in Enterprise AgentsEMNLP 2026 · Proceedings(A 类会议或期刊);公开了代码;提出了评测基准 · 企业 agent 中安全性取决于工作流状态的风险,单看动作无法判断是否违规。
  3. AgentCIScope: Grounded Contextual Integrity Evaluation for LLM Agents来自 Bo Li 团队(University of Illinois Urbana-Champaign);提出了评测基准 · LLM agent 跨应用读写敏感数据时,产生的信息流是否违反情境披露约束,即是否破坏 contextual integrity。
  4. Scalable Weak-to-Strong Verifier Hardening for Agent Environments公开了代码;提出了评测基准 · agent 环境中的程序化 verifier 可被攻击,使作弊 agent 未完成任务也拿满分,导致 reward hacking。
  5. CoRedSkill: Stealthy Skill Composition Attacks via AST-Guided Injection来自 Jiaheng Zhang 团队(National University of Singapore);提出了评测基准 · 多个 skill 组合时,恶意操作可分散在依赖链中,单个 skill 包审计难以识别其组合意图。

按规则挑选:会议档次、是否来自上榜团队、是否公开代码、是否提出评测基准、是否已被后来的论文使用;每个主题最多两篇。

方向雷达

方向本期此前三期平均
↑ 智能体系统架构与运行时工程71.7
↑ 编码 Agent 与软件工程安全52.7
↑ 语言 Agent 强化学习训练中的安全与对齐30.7
↑ 情境完整性与隐私泄露41.7
↑ 运行时权限与注入诊断31
↓ 奖励投机、自我改进与科研 Agent05.7
↓ 具身任务规划安全04
↓ 智能体社会与合作行为03.7

谁在动

第一次在这一领域发表论文的机构:Kontext、Nanchang Hangkong University、Affiliation:、Auburn University at Montgomery、Belleville、CUHK (Shenzhen)、Charles Sturt University、Conversational Technologies、Cookeville、Fraunhofer Institute for Molecular Biology and Applied Ecology

开源与模型

结论变了什么

收录的论文5,645 → 5,781
近 12 个月的新论文3,773 → 3,868
有论文收录的机构3,585 → 3,646
开源仓库7,724 → 7,792

另外 9 项结论的数字变动不到 0.5 个百分点。

上期修订

2026-10-04 – 2026-10-10 首次统计 51 篇,之后补录 26 篇,现为 77 篇。

在星盘里打开这一期