微软研究 Lazarus 后门技术:重编程休眠神经元可让 AI 智能体执行恶意命令
微软研究人员发现名为 Lazarus 的后门技术,重编程 LLM 中不到 10 个休眠神经元、无需训练即可给智能体植入后门,模型通过标准评测并表现正常,直到触发条件出现(如时钟跨入 2027 年的午夜)才下载并运行攻击者代码。
推荐理由:原文说明了后门只需改动不到 10 个休眠神经元且无需训练,读者可据此理解模型权重完整性为何成为部署环节的关键风险。
微软研究人员发现名为 Lazarus 的后门技术,重编程 LLM 中不到 10 个休眠神经元、无需训练即可给智能体植入后门,模型通过标准评测并表现正常,直到触发条件出现(如时钟跨入 2027 年的午夜)才下载并运行攻击者代码。
推荐理由:原文说明了后门只需改动不到 10 个休眠神经元且无需训练,读者可据此理解模型权重完整性为何成为部署环节的关键风险。
Google DeepMind 宣布 Gemini 4 Carbon 正式向开发者、企业、科学家和消费者开放,定位为最强模型,主打网络安全能力与长程智能体工作流,适用于复杂多步编码调试和开放式科学研究,消耗 token 多于 Gemini 4 Argon。
推荐理由:原文给出 Carbon 与 Argon 的分工、定价和多项基准名次,可据此判断它在复杂任务中的定位与迁移成本。
Google DeepMind 发布 AlphaProof Code,一个多 LLM 智能体形式化验证框架,首次用 AI 在这一深度形式化验证广泛部署的密码学协议 Signal 的实际代码,也是任何方法首次验证此类协议的实现。
推荐理由:原文给出验证深度、耗时与人工复核比例等关键数字,读者可据此评估 AI 形式化验证相对传统方法的效率差异。
Google DeepMind 宣布推出下一个前沿模型 Gemini 4 Carbon,称其为迄今最强模型,具备 SOTA 网络安全与长时程能力,在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一。
推荐理由:原文给出了网络安全与长时任务的具体基准分数和分阶段开放路径,读者可据此判断其面向的首批用户与能力边界。
Microsoft Research 机器学习与优化组的 Xinzhi Zhang 与合作者 Zhao Song 证明了 1995 年提出的 Kannan–Lovász–Simonovits(KLS)猜想,表明对数凹分布的最佳平面切割与任意形状切割之差存在与维度无关的普适常数上界。
推荐理由:原文对比了人主导的智能体搜索与同等 token 预算的无引导尝试,可迁移地说明复杂问题中研究者判断的作用。