SoK: a Comprehensive Causality Analysis Framework for Large Language Model Security

文章总结与翻译一、主要内容该研究聚焦大型语言模型（LLMs）的安全性问题，核心围绕“越狱攻击”等对抗性操纵展开，提出了一套统一的因果分析框架，用于系统探究LLMs安全漏洞的内在机制。核心背景LLMs在问答、代码生成等任务中表现卓越，但易受越狱攻击（通过精心设计的提示词绕过安全机制，生成有害输出），现有研究多为描述性分析，缺乏系统性工具解释漏洞成因。核心框架构建了支持四个层级因果探究的统一框架，实现对因果驱动的攻击与防御方法的可重复、可扩展评估：令牌级分析：通过替换干预，探究输入令牌对输出的因果影响；神经元级分析：识别调控安全/有害行为的关键稀疏神经元；层级分析：追踪因果影响在Transformer层间的传播路径；表征级分析：探索嵌入几何结构中的安全边界及攻击对该结构的扰动。关键实验与发现干预有效性验证：在Llama2-7B、Qwen2.5-7B等模型及越狱检测、幻觉识别等任务中，对框架识别的关键组件进行靶向干预，可有效改变模型安全行为（表征级和层级干预成功率最高，达92%以上）；因果分布特征：安全机制具有高度局部