微软研究揭示 Lazarus:改写休眠神经元即可后门 AI 智能体
微软研究人员发现名为 Lazarus 的后门技术,只需对 LLM 中不到 10 个休眠神经元做权重改写、无需训练,就能让智能体在触发条件出现时执行攻击者命令,同时照常通过标准评测。
推荐理由:微软研究者披露不重新训练即可后门智能体的方法,并解释来源校验为何成为模型部署的关键防线。
微软研究人员发现名为 Lazarus 的后门技术,只需对 LLM 中不到 10 个休眠神经元做权重改写、无需训练,就能让智能体在触发条件出现时执行攻击者命令,同时照常通过标准评测。
推荐理由:微软研究者披露不重新训练即可后门智能体的方法,并解释来源校验为何成为模型部署的关键防线。
Google DeepMind 发布 AlphaProof Code,这是一个多 LLM 智能体形式化验证框架,首次用 AI 对广泛部署的加密协议 Signal 的实际代码做深度形式化验证。
微软研究院发布研究原型 PDD Kit,把开发者的自然语言意图转成 Verus 形式规范,再证明编码智能体写出的代码对每个输入都满足该规范,证明无法覆盖的部分退回测试验证。
推荐理由:微软研究院展示把自然语言意图转成 Verus 形式规范、再由证明约束智能体写码的流程,并公开了信任边界的处理方式。
Google Research 提出 Agile Deliberation 框架,把主观视觉分类器的定义过程变成人与 AI 的迭代对话:先由用户把概念拆成子类与排除项,再由视觉语言模型主动挑出语义边界模糊的图片,让用户澄清真实意图,反馈直接进入自动提示词优化循环。