Agent 安全星盘 · 定期报告
周报第 5 期 · 10 月 25 – 31 日
2026-10-25 – 2026-10-31 · 发布于 2026-11-06 · English
主题「工具执行、编码与运行时(混合主题)」本周新增 40 篇,此前三期平均是 26.7 篇。
134篇新论文
99此前三期首次统计的平均
0篇新确认录用
30个新开源仓库
14%有业界作者
本期要点
- 9 篇 · 新论文最多的方向是「编码 Agent 与软件工程安全」其次:VLA 安全(视觉-语言-动作模型) 6;提示注入检测与模型层防御 5;Agent 过程评测与执行审计 5
- 9 此前三期平均 4.7 · 升温最明显的是「编码 Agent 与软件工程安全」同样在升温:奖励投机、自我改进与科研 Agent 5;VLA 安全(视觉-语言-动作模型) 6;工具使用的安全评测与风险意识 5
- 11 次新引用 · 被新论文引用最多的已有论文:Defending Against Indirect Prompt Injection Attacks With Spotlighting其中 5 次是实质使用(当作方法、基准或对比对象)。2024-03 · 提示注入检测与模型层防御
- 14% · 的新论文有业界作者此前三期是 13%。另有 65 家机构在这一领域发表了第一篇论文。
- 30 个仓库 · 在这一时段创建
值得先读
- Appreciation Teaches Unauthorized Execution: Self-Evolution Degrades the Robustness of Personal Agents to Indirect Prompt Injection来自 Chaowei Xiao 团队(Johns Hopkins University);公开了代码 · 自我进化的 personal agent 从用户反馈中学习后,是否会更易受 indirect prompt injection 攻击。
- How Much Can Tool Calls Reveal About You? Privacy Leakage from Tool-Call Traces来自 Dongrui Liu 团队(Shanghai Artificial Intelligence Laboratory);公开了代码;提出了评测基准 · MCP tool-call traces 是否会泄露用户隐私,使观察者推断出用户画像属性。
- SecPO: Principled Adversarial Training for Prompt Injection Security来自 David Wagner 团队(University of California, Berkeley);公开了代码 · LLM agent 面对 prompt injection 防御不足,最强防御 Meta-SecAlign 在 adaptive 攻击下 ASR 接近100%。
- Agentic Backdoors via Pretraining Poisoning来自 Nicholas Carlini 团队(Anthropic (United States));公开了代码 · 预训练数据投毒能否在 agent 中植入 remote code execution 后门,使其在用户机器上执行攻击者指定的命令。
- Your Agent Acts Differently When You're Around: How User Presence Changes Agent Behavior in Negotiation来自 He He 团队(NYU);提出了评测基准 · 用户在回路中时,代表用户谈判的 LLM agent 行为会如何变化,是否出现 misaligned 行为。
按规则挑选:会议档次、是否来自上榜团队、是否公开代码、是否提出评测基准、是否已被后来的论文使用;每个主题最多两篇。
方向雷达
| 方向 | 本期 | 此前三期平均 |
|---|---|---|
| ↑ 编码 Agent 与软件工程安全 | 9 | 4.7 |
| ↑ 奖励投机、自我改进与科研 Agent | 5 | 1 |
| ↑ VLA 安全(视觉-语言-动作模型) | 6 | 2.3 |
| ↑ 工具使用的安全评测与风险意识 | 5 | 1.7 |
| ↑ Agent 的人类监督与控制 | 3 | 0.3 |
谁在动
第一次在这一领域发表论文的机构:Cygnux Labs、Manchester Metropolitan University、ACE Robotics、ADAPT Research Unit CTTC-CERCA、AI Center、AIR Institute、Al-Ahliyya Amman University、American University of Sharjah、Anhui Polytechnic University、Baba
在星盘里打开这一期