微软研究 Lazarus 后门技术:重编程休眠神经元可让 AI 智能体执行恶意命令
微软研究人员发现名为 Lazarus 的后门技术,重编程 LLM 中不到 10 个休眠神经元、无需训练即可给智能体植入后门,模型通过标准评测并表现正常,直到触发条件出现(如时钟跨入 2027 年的午夜)才下载并运行攻击者代码。
推荐理由:原文说明了后门只需改动不到 10 个休眠神经元且无需训练,读者可据此理解模型权重完整性为何成为部署环节的关键风险。
微软研究人员发现名为 Lazarus 的后门技术,重编程 LLM 中不到 10 个休眠神经元、无需训练即可给智能体植入后门,模型通过标准评测并表现正常,直到触发条件出现(如时钟跨入 2027 年的午夜)才下载并运行攻击者代码。
推荐理由:原文说明了后门只需改动不到 10 个休眠神经元且无需训练,读者可据此理解模型权重完整性为何成为部署环节的关键风险。
NVIDIA 在 KubeCon + CloudNativeCon 宣布将用于保护和治理自主智能体的开源运行时 NVIDIA OpenShell 捐赠给 CNCF(Sandbox 项目)。
推荐理由:原文给出三个新组件的公开预览状态与实测启动耗时数据,可据此评估其对 GPU 基础设施部署效率的实际影响。
NVIDIA 在 CoRL 大会推出开放世界动作模型 GR00T 2,基于 NVIDIA Cosmos 构建,使用含 100,000 小时开源第一人称人类数据训练,无需任务特定演示即可完成 50 项评估任务中的 40 项,每任务 1 个演示时 50 项任务平均成功率 71%,5 个演示时升至 95%。
推荐理由:原文列出了新模型的量化指标和开放评测框架,读者可据此判断其仿真训练到真机部署的迁移路径。
Microsoft Research 发布研究原型 PDD Kit,把形式化验证引入日常软件开发:它在 GitHub Next 的 Chopin 中与开发者协作,把自然语言意图转成 Verus 形式化规范,证明智能体写的代码对每个输入都满足规范,证明覆盖不到的部分则回退为测试。
推荐理由:原文给出从意图到形式化规范再到证明的完整工作流,可迁移之处在于把代码评审重心前移到意图评审。