思科开源RAG安全扫描工具，检测向量空间对抗性枢纽漏洞

思科发布开源安全扫描工具'对抗性枢纽探测器'，专门检测检索增强生成系统的向量索引安全漏洞。工具采用四个互补检测器：基于中位数和中位数绝对偏差的枢纽检测、基于归一化香农熵的集群扩散分析、稳定性测试，以及领域和模态感知检测。

针对RAG系统中'对抗性枢纽'攻击漏洞，即攻击者通过精心构造文档嵌入使其成为'引力井'，在语义无关查询中占据检索前列。已发现真实攻击案例，如单一文档可误导Microsoft 365 Copilot。