11/12
Lazarus 研究展示权重后门,改写不到 10 个神经元
据 @sekurimrs 对微软研究的介绍,Lazarus 攻击通过直接改写不到 10 个平时不活跃的神经元,在模型权重中植入后门。模型可在普通提示和标准评测下表现正常,隐藏条件触发后再输出预设命令。
11月12日星期四AI 前沿,先闻其声。
“模型权重”的搜索结果清除搜索
据 @sekurimrs 对微软研究的介绍,Lazarus 攻击通过直接改写不到 10 个平时不活跃的神经元,在模型权重中植入后门。模型可在普通提示和标准评测下表现正常,隐藏条件触发后再输出预设命令。
Institute of Foundation Models 发布通用世界模型 PAN 2,可依据初始场景和文字动作模拟后续视频。视频模型权重、完整训练与推理代码采用 Apache 2.0 许可发布。