我们的论文《NeST: Neuron Selective Tuning for LLM Safety》被IEEE安全与隐私研讨会（IEEE S&P 2027）录用，这是计算机安全领域的四大顶级会议之一。这项研究由Sentinel Intelligence联合创始人Lichao Wu，与达姆施塔特工业大学的Sasha Behrouzi、Mohamadreza Rostami、Ahmad-Reza Sadeghi共同完成。
NeST做了什么
让模型拒绝有害请求，通常需要代价高昂的微调，而LoRA等低成本方法带来的安全提升并不稳定。NeST找出对安全起关键作用的前馈层神经元，将行为相似的神经元分组，并为每组训练一个共享的更新，模型的其余部分保持冻结。
- 在14个开源权重的语言模型与多模态模型上完成测试。
- 在纯文本模型上，平均越狱攻击成功率从44.5%降至1.1%。
- 平均只训练约40万个参数，远少于全量微调，却能接近其鲁棒性。
- 只使用普通的有害与无害提示词训练，不需要任何越狱攻击数据，却能抵御多种越狱攻击。
- 训练得到的更新会合并回模型权重，模型运行时不产生额外开销。
泛化能力这一点最值得关注。一个在训练中从未见过越狱攻击的防御方法依然能够抵御它们，说明它修复的是底层的安全机制，而不是针对某些特定攻击打补丁。
我们的看法
发现弱点只是工作的一半，另一半是在不破坏其他功能的前提下修复它。NeST建立在与我们的攻击研究NeuroStrike和GateBreaker相同的神经元级理解之上，并将其用于防御。准确知道安全机制存在于模型的什么位置，才能既做到精确测试，也做到精确修复。