跳到正文
今天11月13日周五1 条
  1. The Decoder72

    OpenAI 研究指训练选择导致前沿模型思维链透明度下降

    OpenAI 安全团队新分析系统研究了哪些训练步骤导致前沿模型思维链透明度被侵蚀,追踪了无草稿纸推理能力与思维链可控性两个预警信号。研究从 GPT-5 到 GPT-6 Astra 归纳出四类成因:静默心算随基础模型困惑度下降而上升、特定架构在多步静默推理任务上性能曲线更陡、预训练后强化学习增强模型对自身思维链的操控、学生模型会从教师模型继承高思维链可控性。

11月12日周四
11月11日周三
  1. Google DeepMind74

    Google DeepMind 发布 DNA 序列模型 AlphaGenome 2

    Google DeepMind 宣布发布下一代 DNA 序列模型 AlphaGenome 2,可预测 DNA 序列及其变异对特定人类细胞类型的影响,帮助科学家发现疾病的细胞驱动因素。

    推荐理由:原文给出条件模型架构与细胞类型特异的变体召回数据,读者可据此判断它相对上一代在疾病相关变异定位上的实际增益。

  2. Microsoft Research71

    微软研究 Lazarus 后门技术:重编程休眠神经元可让 AI 智能体执行恶意命令

    微软研究人员发现名为 Lazarus 的后门技术,重编程 LLM 中不到 10 个休眠神经元、无需训练即可给智能体植入后门,模型通过标准评测并表现正常,直到触发条件出现(如时钟跨入 2027 年的午夜)才下载并运行攻击者代码。

    推荐理由:原文说明了后门只需改动不到 10 个休眠神经元且无需训练,读者可据此理解模型权重完整性为何成为部署环节的关键风险。

11月6日周五
  1. Microsoft Research62

    Microsoft Research 推出 PDD Kit,用形式化验证约束智能体生成的全栈 Web 应用

    Microsoft Research 发布研究原型 PDD Kit,把形式化验证引入日常软件开发:它在 GitHub Next 的 Chopin 中与开发者协作,把自然语言意图转成 Verus 形式化规范,证明智能体写的代码对每个输入都满足规范,证明覆盖不到的部分则回退为测试。

    推荐理由:原文给出从意图到形式化规范再到证明的完整工作流,可迁移之处在于把代码评审重心前移到意图评审。

11月3日周二
10月30日周五
10月22日周四
  1. Microsoft Research77

    Microsoft Research 研究者证明 31 年悬案 KLS 猜想

    Microsoft Research 机器学习与优化组的 Xinzhi Zhang 与合作者 Zhao Song 证明了 1995 年提出的 Kannan–Lovász–Simonovits(KLS)猜想,表明对数凹分布的最佳平面切割与任意形状切割之差存在与维度无关的普适常数上界。

    推荐理由:原文对比了人主导的智能体搜索与同等 token 预算的无引导尝试,可迁移地说明复杂问题中研究者判断的作用。

10月14日周三
10月5日周一
7月29日周三
7月26日周日
5月8日周五
4月20日周一
3月13日周五