微软研究揭示 Lazarus:改写休眠神经元即可后门 AI 智能体
微软研究人员发现名为 Lazarus 的后门技术,只需对 LLM 中不到 10 个休眠神经元做权重改写、无需训练,就能让智能体在触发条件出现时执行攻击者命令,同时照常通过标准评测。
推荐理由:微软研究者披露不重新训练即可后门智能体的方法,并解释来源校验为何成为模型部署的关键防线。
微软研究人员发现名为 Lazarus 的后门技术,只需对 LLM 中不到 10 个休眠神经元做权重改写、无需训练,就能让智能体在触发条件出现时执行攻击者命令,同时照常通过标准评测。
推荐理由:微软研究者披露不重新训练即可后门智能体的方法,并解释来源校验为何成为模型部署的关键防线。
微软研究院发布研究原型 PDD Kit,把开发者的自然语言意图转成 Verus 形式规范,再证明编码智能体写出的代码对每个输入都满足该规范,证明无法覆盖的部分退回测试验证。
推荐理由:微软研究院展示把自然语言意图转成 Verus 形式规范、再由证明约束智能体写码的流程,并公开了信任边界的处理方式。
微软研究院研究员张新智与合著者证明了一个存在 31 年的数学难题,即高维几何中的 Kannan-Lovász-Simonovits(KLS)猜想,证明它时所用的固定界不随维数增长。
推荐理由:这篇论文证明了一个存在 31 年的数学猜想,其中人机协作探索的路径可以作为参考。
Google Research 发布博客,介绍三项连接 AI 计算探索与真实湿实验室实验的研究进展。其一为基于开源 PyLabRobot 的 VERID 框架,用实验室工作站的语义数字孪生支持实时三维状态追踪、秒级虚拟试运行和硬件安全检查。
推荐理由:Google Research 公开了三项研究,展示 AI 智能体如何接入真实湿实验室,覆盖从机器人执行到分子设计闭环。
GitHub 发布代码评审基准 ReviewBench,基于 1.039 亿条真实 PR 的分布构建,包含 219 条来自 187 个开源仓库、覆盖 19 种语言的 PR。
推荐理由:GitHub 公开了代码评审智能体基准的数据集、评分规范和评审模型,附离线与线上实验的一致性证据。