安全研究观察

2026-11-12 / 当天研究日报

追踪安全前沿,
识别值得研究的问题。

15 篇论文 · 5 条行业动态 · Asia/Singapore

当天日报 · 实际生成:2026-11-12T08:14:08+08:00
资料截止:2026-11-12T08:05:39+08:00(Asia/Singapore)

信号采集、感知表征、代理决策、执行授权四层信任边界示意
编辑绘制 · 信任边界示意,非实验结果

本期重点判断

检测到的是生理信号,还是视频来源捷径,需要用负对照辨别

Pulse or Provenance发现背景也能取得极高分数,跨数据源真实视频却大量被误判。应在身份、来源、编码和时间顺序上做独立对照,不能把同域AUC直接解释成学到了稳定的生理真实性。

2611.13992

多模态后门修复、图像隐私扰动和设备授权都有明确边界

GARD覆盖多种后门与模型,但部分配置有正常精度代价;人脸隐私扰动在转码处理下明显变弱;5G CATS依赖空载网络模拟与共封装假设。不同技术的成功指标不能替代部署后的真实性、隐私或授权证明。

2611.14143 · 2611.14254 · 2611.13437

机器人记忆可能利用时钟捷径,安全规划也需要考虑执行链

机器人记忆研究用暂停与时间戳缩放区分记忆和进度线索;LEASH研究把运行时安全加入具身Agent;潜空间屏障和时空碰撞检测则处理约束。记忆鲁棒、规划可行、实机跟踪和最终安全是不同验收项。

2611.14488 · 2611.14115 · 2611.13227 · 2611.11646

验证器与探针也要验证,识别攻击者不等于阻止攻击

Veritas将验证器生成作为独立任务,良性训练探针研究给出对抗条件下的受限结果;Say Shibboleth关注底座与运行框架归属。应同时检查评分器可靠性、跨任务泛化、正常效用及动作是否真正被阻断。 BadEvolve进一步研究触发规则经自我演化保留的风险,跨框架均值仍需结合受控反馈条件理解。

2611.13336 · 2611.11172 · 2611.12386 · 2611.13684 · 2611.10542
时间范围与证据说明

本期为11月12日当天日报。信息截止锁定2026-11-12 08:05:39 Asia/Singapore,真实生成时间另行标明。以此计算24小时、7天、30天窗口,与此前121篇唯一论文按ID及规范化标题去重。近24小时内高优先级可核实论文不足时扩展近7天,逐篇标真实首次公开时间。声学侧信道论文正文标注8月学位论文、11月10日上传arXiv,不把正文日期或已公开时间混为同日新研究。新闻按真实事件与公告日期标注,11月11日新披露与11月10日、9日补充分开,不把厂商产品安全主张视为独立验证。

检索安全顶会官方索引与arXiv原始摘要/全文,按领域、质量、时间和创新价值筛选。官方列表及原文可访问程度不一,不能声称检索穷尽;未经目录核实不标CCF-A。自动跨库核验helper缺失,保留UNVERIFIED标志,与原始书目、全文、实验和图片的人工核对分开。实验数据均为作者报告,未独立复现;系统失配、自然故障、可控攻击与编辑假设分别描述。厂商公告不等于独立安全验证。原图用于学术评述,版权归作者,附原始来源及合规caption节选;编辑示意非实验结果。

实际生成时间:2026-11-12T08:14:08+08:00;信息截止:2026-11-12T08:05:39+08:00。

论文与行业动态

传感器安全 / 侧信道安全 · 2026-11-10(首次提交,UTC)

Domain-Invariant and Language-Model-Assisted Acoustic Side-Channel Attacks on Keyboards

跨域不变与语言模型辅助的键盘声学侧信道攻击
arXiv预印本 / MTech学位论文;2026-11-10首次提交,正文标August2026;正式venue未核实;原始资料已核对,跨库自动核验未运行

研究问题与威胁模型

攻击者用普通麦克风被动录制敲击,不需受害设备权限;跨键盘、用户和VoIP压缩使同设备训练精度无法外推。主要评测分割后的按键和标准化语料,连续完全被动输入的起点检测依然限制威胁可实现性。

技术、价值与启发

技术
Hear采集53人、37键盘及外置/本机/VoIP信道;DECKER结合键盘签名归一化、ECAPA-TDNN、域对抗、声学style随机化和跨键盘监督对比。后续LLM在top-k候选中约束句子重建,区分自然语言与高熵字符串。
价值
价值:将域偏移与语言先验分开,指出麦克风跨场景的隐私风险。
启发与局限
启发:严格身份/键盘分组外测、未知语料和端到端分割评价;本稿是学位论文,原始数据与代码公开可复现性尚未独立验证,不把作者“开放世界”表述当任意现实环境保证。

实验结果与证据边界

原文表8.3已见/未见键盘key top1为98.9/81.3%;GPT4辅助字符93.2%、整句72.8%,原声学整句42.6%。±20ms起点扰动key降至75.4%;随机高熵密码LLM提升仅约2–3%,不能把自然语言精度写成随机密码恢复率。真实录音验证,但跨人/键盘划分和完整连续分割应复核。

原图与完整 caption
原始论文 · 全文 · PDF
感知安全 / 传感器安全 · 2026-11-10(首次提交,UTC)

Pulse or Provenance? What rPPG-Based Deepfake Detectors Learn

脉搏还是来源?rPPG式Deepfake检测器实际学到了什么
arXiv预印本;2026-11-10首次公开;正式venue未核实;原始资料已核对,跨库自动核验未运行

研究问题与威胁模型

rPPG检测常把真伪判别归因于心搏,但AUC可能来自生成器高频伪影或视频来源。本文不是新远程生理攻击,主要审计Celeb-DF++/FF++检测的因果依据、身份/源视频泄漏与跨数据集泛化。

技术、价值与启发

技术
每个真实/伪造视频同样抽一窗口,比较CHROM/POS、RhythmFormer及CLIP;对照脸部/背景/全帧、帧乱序、心率频带与高频、注入脉搏、去除/添加高频及两生成器自重演,另做独立实现核验。
价值
价值:高AUC与“生理真实性”不是同一证据,来源漂移足以让判别失效。
启发与局限
启发:源视频和身份两级隔离、匹配编码与采样、做频率干预而非只看注意力;作者未证明所有rPPG方法都无生理信息,也不等于CLIP普遍更安全。

实验结果与证据边界

Celeb-DF++谈话人脸CHROM AUC0.998,专用RhythmFormer0.869;背景同为0.998,乱序后0.521。模型把超过99%真实FF++判为假;身份/源内容复用的自定义协议可让弱模型AUC虚高最多0.30。结果为离线视频/22伪造方法,非在线真实医疗rPPG失效证明。

原图与完整 caption
原始论文 · 全文 · PDF
物联网安全 / 传感器安全 · 2026-11-10(首次提交,UTC)

5G CATS: 5G-Based Cryptographic Authorization Against Trafficking of Semiconductor Devices

5G CATS:以5G和短期硬件租约认证芯片位置
arXiv预印本;2026-11-10首次公开;正式venue未核实;原始资料已核对,跨库自动核验未运行

研究问题与威胁模型

芯片身份正确不代表位置正确;主机控制者可中继认证,诚实RTT抖动给跨地区转发留下余量。假定包内radio/crypto/interlock可信、运营商基站/附着记录可信,主机OS/PCIe/BMC不可信;检查“where”不是仅“who”。

技术、价值与启发

技术
把5G无线终点置于芯片包内,URLLC短slot承载challenge-response,以短执行租约代替永久擦钥,辅以运营商cell记录交叉验证。量化RTT尾部到中继可藏距离的转换,显式讨论回传IP跳与slot配置。
价值
价值:把身份、认证新鲜性与位置上界分开,并处理失联后永久封禁的可靠性代价。
启发与局限
启发:实测拥塞尾部、租约安全降级、时钟/基站信任和多运营商协同;地理执法相关性是背景,本文结果不是现行法或芯片出口合规意见。

实验结果与证据边界

ns-3/5G-LENA空载小区,20场景×1000认证:URLLC median3.92ms、p99.9 5.72ms,对默认5G40.25/56.40ms;RTT可藏余量2.60ms约260km,非精确定位。模型中从300km中继全拒,默认需2000km。无共封装硬件、真实负载/移动网络原型;99.9分位也允许尾部误拒。

原图与完整 caption
原始论文 · 全文 · PDF
感知安全 / 具身智能安全 · 2026-11-10(首次提交,UTC)

GARD: Gradient-Guided Adversarial Representation Defense against Backdoors in Multimodal Contrastive Learning Models

GARD:用梯度引导对抗表征修复多模态对比模型后门
arXiv预印本;2026-11-10首次公开;正式接收未核实;原始资料已核对,跨库自动核验未运行

研究问题与威胁模型

已被视觉后门污染的CLIP在干净样本正常、trigger下定向分类。防御者可修改视觉编码器并拥有干净图文数据,但不知道trigger/target;事后微调可能留后门,反演又依赖猜测正确触发器。不是线上任意VLA动作系统防护。

技术、价值与启发

技术
以互补全局/局部PGD探针最大化干净图像表征偏移,再拉回detached clean anchor,同时保持图文对齐。全局探针针对分布式扰动、局部探针对patch;只在修复训练增加计算,推理不加检测器或额外支路。
价值
价值:用结构互补探针替代单一trigger反演,并给出匹配数据对照。
启发与局限
启发:扩大未知多目标后门、更多编码器和更强长期unrolled适应攻击,联合测干净效用;clean anchor可信是关键,不保证任意低敏后门都能被探针暴露。

实验结果与证据边界

ImageNet1K零样本,6种攻击×ViT-B/32/RN50的12组合ASR均<1%。ViT的BadCLIP从99.94%至0.82%,clean accuracy60.58→61.01%;RN50部分clean accuracy损失约5–6点,不能称零代价。统一20K干净数据对照与两类ViT adaptive攻击,后者修复后ASR0.01–0.76%;没有实物触发/真实VLA验证。

原图与完整 caption
原始论文 · 全文 · PDF
感知安全 / 隐私保护 · 2026-11-10(首次提交,UTC)

Location Matters: Sparse Latent-Variance Attacks for Face Privacy against Diffusion Personalization

位置很重要:以稀疏潜变量方差扰动防止人脸扩散个性化
arXiv预印本;2026-11-10首次公开;正式venue未核实;原始资料已核对,跨库自动核验未运行

研究问题与威胁模型

攻击者收集公开人像后DreamBooth微调扩散模型复制身份。图像所有者提前加保护性扰动,希望维持视觉质量又阻碍身份学习;防护依赖图像经过VAE参与微调,不覆盖IP-Adapter FaceID等非微调个性化。

技术、价值与启发

技术
SEAL用可微top-k共同优化5%像素位置/值,最大化冻结VAE的latent variance目标,并以人脸显著性引导分散正则减可见聚簇。稀疏位置本身作为优化变量,不只是把密集攻击幅度缩小。
价值
价值:把保护图质量与下游身份学习分开评测,说明稀疏位置的贡献。
启发与局限
启发:在可部署压缩/裁切/自适应训练下比较强度—可见性边界;本文明确预处理脆弱,适合作优化思路,不应作为实用隐私保证。

实验结果与证据边界

VGGFace2/CelebA-HQ各50身份、每人4图,SD2.1+DreamBooth1000步,512²图;正文P1 FDFR0.93、身份相似≤0.11,P2≤0.15,保护图PSNR>41dB/SSIM约0.97。JPEG/模糊/缩放会去除大部分扰动并恢复身份相似;不能用干净传输结果宣称平台转码后仍可靠。

原图与完整 caption
原始论文 · 全文 · PDF
具身智能安全 / 感知安全 · 2026-11-10(首次提交,UTC)

Is Your Robot's Memory Just a Clock? Temporal Shortcuts in Memory-Augmented VLA Policies

机器人的记忆只是时钟吗?记忆增强VLA策略中的时间捷径
arXiv预印本;正式接收未核实;原始资料已核对,跨库自动核验未运行

研究问题与威胁模型

示教稳定节奏让经过时间替代真正事件计数;暂停或无任务进展的手腕动作仍进入时间采样记忆,造成phantom progress。研究受控中断及时间戳缩放,未证明低权限攻击者能在真实机器人实施相同操作。

技术、价值与启发

技术
同初态/噪声配对比较无事件、null-event可见及事件实际发生但不入记忆;再单独缩放时间戳、移除时间编码,比较按时间/像素/子目标索引,区分clock stamps与时间采样槽位的因果作用。
价值
价值是给出记忆失效的可分解因果证据;启发是加入等待、空动作、时钟缩放与真实事件边界联合评测。
启发与局限
真实示教时间相关性分析不等于真实攻击验证,事件索引仍需传感器可靠事件检测,持续时长本就是任务要素时不能简单去时间。

实验结果与证据边界

RoboMME仿真每格50episode,两次5秒暂停使PickXtimes47/50→16/50、SwingXtimes44/50→10/50。时间戳×1.5使47→18/50并提早停止;移除时间编码不充分,事件索引免重训恢复半数以上损失。无实体闭环;事件检测用仿真信号,多数重训仅1seed,少于约10episode差异应慎读。

原图与完整 caption
原始论文 · 全文 · PDF
具身智能安全 / 感知安全 · 2026-11-08(首次提交,UTC)

ColNav: Uncertainty-Aware Spacetime Collision Checking with Bounding Volume Hierarchies

ColNav:结合包围体层次结构的不确定性感知时空碰撞检测
arXiv预印本;正式接收未核实;原始资料已核对,跨库自动核验未运行

研究问题与威胁模型

离散时空采样可能漏掉采样间碰撞,固定膨胀还忽略预测不确定性随时间增长。研究传感器退化及运动模型失配,未证明能够抵御恶意轨迹或被污染协方差输入。

技术、价值与启发

技术
把位置/速度不确定性传播成spacetime tube,分别处理有界集ColNav-R与Gaussian滤波ColNav-C,BVH一次遍历覆盖整段规划horizon并返回最早冲突时间。静态/动态障碍统一几何表示,证书条件依赖给定不确定性模型。
价值
价值是连续时间证据而非加密离散采样;启发是用新鲜度与时钟误差扩大可验证tube,比较保守误停和漏碰。
启发与局限
Gaussian kσ几何证书不是无需假设的绝对零碰撞保证;模型失配、置信度失校准及执行轨迹偏离都可能越出证书。

实验结果与证据边界

闭环仿真每checker20轮;模型失配下ColNav-C成功100%,最佳基线65%;k=3退化条件漏碰接近0,但k=2误报可高至ColNav-R5倍。实体UGV两变体最小净距0.191±0.117/0.387±0.305m,到达6.47±0.36/6.71±0.82s;未报告长期碰撞率或真实尾延迟安全上界。

原图与完整 caption
原始论文 · 全文 · PDF
具身智能安全 / 智能体安全 · 2026-11-10(首次提交,UTC)

LEASH: Stay Safe in Agentic Robotics

LEASH:让智能体机器人保持安全
arXiv预印本;正式接收未核实;原始资料已核对,跨库自动核验未运行

研究问题与威胁模型

机器人Agent可能在恶意任务、规划、执行突发危险、提示注入及长程记忆中造成伤害;文本拒绝不等于物理动作安全。RoboRisk用闭环验证,Harm同时含实际和潜在伤害,不应解读为全部实体损坏。

技术、价值与启发

技术
共享安全policy,task/action/commit三门结合视觉审查;每次授权仅覆盖当前任务、动作或监控操作。执行中对开夹爪/倾倒作commit审查,拒绝后交回planner重规划;lease不代表任意长技能内部均被监控。
价值
价值是把授权与真实视觉上下文结合;启发是对租约后的环境变化和长技能内部TOCTOU扩展实时监测。
启发与局限
仅13实机试验的零观察不证明零风险,gate可靠性依赖模型及planner,论文未做完整组件消融,也未覆盖全部不可逆操作。

实验结果与证据边界

RoboRisk92仿真任务×3seed=276run/配置、13实体任务。Astra+Jev仿真Harm11.23%→0%、安全成功78.99%→80.80%;实体13次观察0伤害、84.62%安全成功。弱planner仍有12.68%仿真或38.46%实机伤害;均值时间增加1.66%,非尾延迟保证。

原图与完整 caption
原始论文 · 全文 · 作者项目页 · PDF
具身智能安全 / 智能体安全 · 2026-11-08(首次提交,UTC)

When Coding Agents Get Arms: Safety Risks Across the Digital-Physical Boundary

当编程智能体拥有机械臂:跨越数字与物理边界的安全风险
arXiv预印本;正式接收未核实;原始资料已核对,跨库自动核验未运行

研究问题与威胁模型

具有Web/邮件/代码执行能力的Agent控制机械臂时,恶意使用和间接注入可从数字接口传播成物理动作。目标是高能力零样本编程控制,不应将结果直接移植到独立VLA或已加gate的系统。

技术、价值与启发

技术
ArmedAgent含5场景36任务,覆盖正常鲁棒性、恶意使用、间接注入;任务可经邮件、供应商更新与驱动输出注入。采用真实机器人API及仿真,分别记录危险状态和拒绝行为,实体机械臂验证部分场景。
价值
价值是揭示代码/检索权限与实体动作权限的耦合;启发是每次执行前将授权绑定当前视觉状态和工具来源,分离仿真与实体证据。
启发与局限
增强推理有时更能完成危险指令,但不是能力必然降低安全的一般因果定律;基准缺少长期部署基率。

实验结果与证据边界

5种模型/推理配置整体ASR72.22–94.29%,间接注入81.82–90.91%,所有已评类别观察拒绝0%。Astra高推理恶意任务100%ASR,但样本少且任务按配置可执行数不同;不能将百分比解释为任意部署系统风险概率,实体演示不等于全部任务多次实机复现。

原图与完整 caption
原始论文 · 全文 · 作者项目页 · PDF
具身智能安全 · 2026-11-09(首次提交,UTC)

Latent Barrier Steering: Hierarchical Safety for Generative Planning

潜在屏障引导:生成式规划的分层安全机制
arXiv预印本;正式接收未核实;原始资料已核对,跨库自动核验未运行

研究问题与威胁模型

新的约束可能封死整种行为模式,此时局部修复规划路径虽安全却无法抵达目标。研究已知几何约束下路径安全和规划效率,无恶意传感器/时钟攻击模型,也不是全身执行安全保证。

技术、价值与启发

技术
先在几何对齐latent上用CBF-QP提高轨迹最小安全裕量,再对解码路径仅做剩余CBF修复。固定生成器/任务上下文作公平对照;有限时间恢复依赖局部Lipschitz和非零梯度等条件,训练仅鼓励而不认证这些条件。
价值
价值是将行为模式选择和几何修复分离;启发是对动态约束、状态陈旧及截止时间测安全—可达—开销三方权衡。
启发与局限
规划证书不能覆盖执行器误差,有限时间定理假设不自动由神经网络满足,不应把100%样本安全当普适认证。

实验结果与证据边界

2D导航、Franka末端路径、Maze2D各3约束。约束I时LBS安全100%,到达率100/100/95%;同条件SafeFlowMatcher到达18/14/0%。皆为规划评估,Franka仅末端计划路径,不含跟踪误差与全身碰撞。零阶latent搜索增加秒级开销,未报告真实p99闭环安全。

原图与完整 caption
原始论文 · 全文 · PDF
智能体安全 · 2026-11-08(首次提交,UTC)

Do Benign-Trained Hidden-State Probes Detect Tool Errors Under Adversarial Conditions?

仅用良性轨迹训练的隐藏状态探针能检测对抗条件下的工具错误吗?
arXiv预印本;未核实正式接收;原始资料已核对,跨库自动核验未运行

研究问题与威胁模型

良性工具轨迹中的错误特征可能无法迁移到提示注入、系统覆盖和工具投毒。检测目标是操作层工具动作正确性,不等于是否恶意或已造成安全损害;训练和评估必须按任务组隔离。

技术、价值与启发

技术
四个AgentDojo套件、三个8bit模型,在96个suite-task组做五折OOF;仅用良性非防御轨迹训练末层最后prompt-token的逐步逻辑回归探针,与工具token熵、负平均log概率、四次采样自一致性比较,按任务聚类bootstrap和Holm校正。
价值
价值:揭示良性训练探针的分布迁移风险,并透明区分完整案例与缺失工具调用。
启发与局限
启发:用任务组隔离及真实低基率precision检验监测,联合报告缺失动作;不能将AUROC直接解释为防御成功率。末层单token/线性探针限制结论,不排除其他表示或训练策略有效。

实验结果与证据边界

共4147个OOF步骤,四信号完整案例3836;311个无工具调用步骤保留在总群体但不能计算token指标。Qwen2.5-14B系统覆盖下探针AUROC/AP为0.431/0.573,熵为0.758/0.821;Holm显著六个差异均来自此模型/条件,不能称所有模型/攻击均显著优于探针。仅单seed折分、三模型、离线检测,没有验证在线阻断效益。

原图与完整 caption
原始论文 · 全文 · PDF
智能体安全 · 2026-11-10(首次提交,UTC)

BypassGym: A Benchmark for Evaluating AI Agents' Endpoint Defense Evasion Capabilities

BypassGym:评估AI Agent规避终端防御能力的基准
arXiv预印本;未核实正式接收;原始资料已核对,跨库自动核验未运行

研究问题与威胁模型

现有Agent进攻基准较少测终端防护存在时的实际执行。实验假定攻击者已有固定测试payload、编译环境和多轮反馈,考察受保护端点是否实际通过功能检查;不是证明任意外部攻击者能入侵端点。

技术、价值与启发

技术
在Proxmox隔离Windows虚拟机部署六款EDR,三类固定测试载荷、五种轻量模型;先验证无EDR环境,再做受保护端点和独立功能检查。每run最多10轮修订,比较附加知识、框架及推理设置,不仅依赖静态扫描标签。
价值
价值:将真实端点和功能性证据纳入模型能力评估,提醒端点安全不能只看扫描命中。
启发与局限
启发:用固定配置、版本、无Agent基线与查询预算对照,并测正常业务误拦截和更新后泛化。此为能力测量,不提供利用代码、绕过配方或对某厂商的全面排名。

实验结果与证据边界

主实验90个run中71个产生通过提交;DeepSeek-V4.1 Flash为17/18,Bitdefender相关15个run中5个通过。原生未改写基线18种组合中3个已通过,因此不能把全部成功归因Agent。只测指定Windows/产品版本及配置,不能完全分开测试payload和生成程序的检测原因;单轮与多轮run成功率不可混同,生产环境有效率未验证。

原图与完整 caption
原始论文 · 全文 · PDF
智能体安全(评测与自改进可信性) · 2026-11-09(首次提交,UTC)

Veritas: A Verifier Generation Harness for Agent Tasks

Veritas:为Agent任务自动生成验证器的运行框架
arXiv预印本;未核实正式接收;原始资料已核对,跨库自动核验未运行

研究问题与威胁模型

自改进系统依赖验证器给出可信反馈;手工oracle也可能缺陷,生成验证器的高一致率不必然意味着安全。该论文主要解决验证器可靠性,而非针对恶意攻击者证明防御。

技术、价值与启发

技术
在OpenCode上加入可见证据header、领域规则库与编写原则,部分原则经自改进生成。六基准中四种执行评分先审核官方verifier的候选标签、另两种比较回答;固定GLM-5.2比较七harness,再跨三模型族及组件消融,缺失verdict计错。
价值
价值:把证据可见性、隐含领域规则和判定覆盖率纳入验证器协议,并审核官方标签。
启发与局限
启发:区分“交付不了验证器”和“判错”,用真实失败轨迹及适应性奖励攻击扩展评测;官方oracle认证并非完备证明,模型可能已见公开基准。

实验结果与证据边界

固定GLM-5.2时四执行基准κ*均领先最强普通harness约0.03–0.08;SWE-bench为0.720对pi0.693。机制加入三harness的12个执行基准组合中9个改善,但GPT-5.6-sol跨模型对照不优于原生Codex。执行基准仅33–138任务、多数配置单次,候选多为构造样例,不能证明真实Agent训练收益或对抗奖励投机安全。

原图与完整 caption
原始论文 · 全文 · PDF
智能体安全 · 2026-11-09(首次提交,UTC)

Say Shibboleth: Fingerprinting the LLMs and Harnesses Behind Agentic Attacks

Say Shibboleth:识别Agent攻击背后的模型及运行框架指纹
arXiv预印本;未核实正式接收;原始资料已核对,跨库自动核验未运行

研究问题与威胁模型

防守方只能看目标服务收到的请求,不能直接查询攻击Agent模型。让蜜罐资源访问必须经过可区分交互,测声明、语言风格、秘密遮罩、超时与调度等线索;不要求提示注入成功,也不等于识别真实攻击组织。

技术、价值与启发

技术
模块化shibboleth traps提供声明及行为门控,文本分类器在留出harness/任务族测试;执行框架以固定规则解读外显行为,独立评四种harness。进一步给六模型隐藏身份指令,区分可伪造声明与行为分类。
价值
价值:展示可观测执行差异及主动设计服务交互可用于防守归因,并直接测试声明欺骗。
启发与局限
启发:保留未知类别、置信等级及多证据一致性,长期测版本更新、攻击者规避和误归因代价;不能把Agent自报名称当可信认证。

实验结果与证据边界

15候选模型上的组合推断平均约90%top1;四harness规则推断92%,其中47%依赖较弱lean、44%严格判定,不能都当确定归因。被要求撒谎时原组合推断由95%降至8%;行为分类仍77%,仅接受有行为模板的声明后为79%。受控候选集与任务、短会话、一个模型只在一个harness上造成混杂;初步线上案例不构成大规模准确率验证。

原图与完整 caption
原始论文 · 全文 · PDF
智能体安全 · 2026-11-07(首次提交,UTC)

When Experience Becomes a Backdoor: Poisoning Self-Evolving LLM Agents via Failure-Aware Task Optimization

当经验变成后门:通过失败感知任务优化投毒自演化LLM Agent
arXiv预印本;未核实正式接收;原始资料已核对,跨库自动核验未运行

研究问题与威胁模型

攻击者只能投放用于自演化的任务,不能直接修改可信evolver内部产生的Skill;毒任务怎样被提炼成条件恶意规则?仅看最终攻击失败会混淆诱导、激活、遵循和效果四阶段,错误优化可能破坏已有进展。

技术、价值与启发

技术
BadEvolve以阶段反馈指导毒任务优化,失败时回滚并记住无效更新。用四种Skill自演化框架和SpreadsheetBench/WikiTQ/OfficeQA,比较相同投毒预算的TextGrad-Poison及TBA,分别评额外payload行为与触发答案破坏,并测试代理骨干迁移和模块消融。
价值
价值:把恶意经验的持久化与触发过程分阶段,并在固定预算下量化优化收益。
启发与局限
启发:自演化须保留经验来源、独立干净/带触发验证和Skill差分审计;跨阶段诊断同样可用于防守发现规则异常。成功率依赖任务分布、触发暴露及代理反馈,未证明未知触发或真实长期部署均可迁移。

实验结果与证据边界

Kimi-K2.5受害骨干的12个框架×数据集payload组合中,BadEvolve平均ASR79.6%(59.3–100%),TextGrad-Poison27.8%、TBA37.6%;正常准确率比干净演化平均低1.1个百分点。答案破坏在WikiTQ/A-Evolve上Kimi与Sonnet4.6的DASR为80.0%和54.1%,不是同一ASR定义。均为作者受控任务及触发设置,不能称真实服务感染率;强反馈与已知演化流程限制外推。

原图与完整 caption
原始论文 · 全文 · 作者代码 · PDF
最新披露 · 仅核实发布日期 · 发布 2026-11-11

VicOne讨论机器人安全保护对输入真实性的依赖

事件日期:11月11日技术文章;测试具体实施日期未单列|来源:VicOne LAB R7原始技术文章

LAB R7报告海报文字改变机器狗动作的测试,以及不可听音频影响医院服务机器人仿真行为的案例。文章区分已测案例与GNSS围栏、陀螺仪等待验证攻击链,没有证明任意人形机器人会因此跌倒。属于厂商研究披露,本期未独立复现。

研究影响(本期分析)

可将独立保护系统依赖的距离、位置、停止信号列成输入信任图,测试同一操纵是否同时影响感知与保护。自然故障与攻击时序需要分别建模,不能把正常遵守安全规则当输入可信的证明。

相关论文:2611.14115 · 2611.11438 · 2611.13992

原始公告
11月11日 · 官方报告发布 · 发布 2026-11-11

Cequence与KPMG发布Agent运行时安全治理报告

事件日期:11月11日发布;11月19日新加坡分享活动仍属计划|来源:Cequence官方公告

Cequence公布与KPMG新加坡意见输入相关的治理报告,讨论Agent从生成内容转向登录、预订和交易。厂商称10月一周内跨五行业追踪超过25万次Agent访问;这是其可观测样本,不是全互联网普查,也不自动表明这些访问已获授权或存在攻击。

研究影响(本期分析)

身份、用户同意、任务权限和真实执行后果需分别验收。可与本期验证器及行为探针研究对读,在真实低攻击基率下衡量正常任务代价、误拦截和越权动作,而非以访问增长代替安全有效率。

相关论文:2611.13336 · 2611.11172

原始公告
7天内 · 开源项目公告 · 发布 2026-11-10

Linux Foundation接纳ANS,推进Agent可验证身份与发现

事件日期:11月10日项目启动公告;不等于IETF正式标准或普遍部署|来源:Linux Foundation官方公告

Agent Name Service基于DNS及证书机制,规范域名锚定命名、注册版本、公开日志和身份验证。公告列出七份规范文档、11个支持组织及早期目录集成。这说明项目与互操作进展,不代表验证身份后Agent的所有动作都被授权。

研究影响(本期分析)

研究可围绕身份版本变更、撤销、新鲜度和跨组织权限开展;把Agent指纹归属、注册身份与运行时授权分开,避免将发现和认证层当成提示注入防御。

相关论文:2611.12386 · 2611.13437

原始公告
7天内 · 产品预告 · 发布 2026-11-10

Ring公布移动安防机器人,交付仍在未来

事件日期:11月10日公告;Rover计划12月16日、Drone计划2027年1月27日美国发货|来源:Amazon / Ring官方公告

Ring Robotics包括室内Drone Cam与商用Rover Cam,AI Pilot结合视觉、设备传感器和云处理完成建图巡逻,支持设备告警触发调查。加密与隐私模式为厂商声明,尚不能据此判断抗感知欺骗或失联安全。Drone在公告中仍待相应监管授权,不能写成已规模交付。

研究影响(本期分析)

事件触发从静态摄像变成实际移动,需联合测试误告警、地图陈旧、云时延、视觉诱导与人员进入路线时的保护。隐私验收也应覆盖运动轨迹、映射和录像生命周期。

相关论文:2611.11646 · 2611.14488 · 2611.14115

原始公告
7天内 · 厂商认证公告 · 发布 2026-11-09

Nozomi称政府版OT/IoT平台获FedRAMP Moderate认证

事件日期:11月9日厂商认证公告;本期未独立审计全部认证材料|来源:Nozomi Networks官方公告

Nozomi宣布Vantage for Government达到FedRAMP Moderate要求,平台部署于AWS GovCloud,集中OT/IoT资产、威胁和风险信息。认证状态按厂商公告转述;云服务控制合规不等于每种物理攻击或异常检测任务均已获得独立效果验证。

研究影响(本期分析)

可从设备授权和遥测来源出发,分开评估云侧身份管理、端点状态真实性、检测性能及处置延迟。跨系统资产可见性与真正阻止危险控制动作仍是不同证据。

相关论文:2611.13437 · 2611.13684

原始公告
论文实验、行业声明和编辑推断需分开核验的证据阅读示意
编辑绘制 · 证据阅读示意,非实验数据;各条结论以所附原始来源为准。