跳到正文
  1. Microsoft Research68

    微软研究揭示 Lazarus:改写休眠神经元即可后门 AI 智能体

    微软研究人员发现名为 Lazarus 的后门技术,只需对 LLM 中不到 10 个休眠神经元做权重改写、无需训练,就能让智能体在触发条件出现时执行攻击者命令,同时照常通过标准评测。

    推荐理由:微软研究者披露不重新训练即可后门智能体的方法,并解释来源校验为何成为模型部署的关键防线。

  1. Microsoft Research64

    微软研究院发布 PDD Kit,用形式化证明校验智能体编写的全栈 Web 应用

    微软研究院发布研究原型 PDD Kit,把开发者的自然语言意图转成 Verus 形式规范,再证明编码智能体写出的代码对每个输入都满足该规范,证明无法覆盖的部分退回测试验证。

    推荐理由:微软研究院展示把自然语言意图转成 Verus 形式规范、再由证明约束智能体写码的流程,并公开了信任边界的处理方式。

已经到底了