跳到正文
11月11日周三
  1. Microsoft Research78

    微软研究提出 Lazarus 后门技术:重编程休眠神经元即可控制 AI 智能体

    微软研究人员发现名为 Lazarus 的后门技术,通过权重重编程修改 LLM 中不到 10 个休眠神经元,无需训练即可给基于该模型的智能体植入后门。被植入后门的模型能通过标准评测并表现正常,直到触发条件出现,例如时钟跨入 2027 年后,智能体在普通任务中输出下载并运行攻击者代码的命令,并以用户授予的权限执行。

    推荐理由:研究显示仅改写不到 10 个休眠神经元即可给智能体植入后门,且模型仍能通过常规评测,为权重来源与完整性提供了新的风险视角。

11月6日周五
  1. Microsoft Research64

    微软研究院用 PDD Kit 形式化验证智能体编写的全栈 Web 应用

    微软研究院联合 GitHub Next 提出 Proof-Driven Development(PDD)与配套工具 PDD Kit,把用户意图转成 Verus 形式化规格,证明智能体写的代码对每个输入都满足规格,证明覆盖不到的部分改用测试。

    推荐理由:微软研究院与 GitHub Next 展示用 Verus 形式化验证智能体生成的登录代码,把审查重心从逐行读代码转向审阅意图规格。

11月3日周二
  1. MIT Technology Review · AI48

    逆向博弈论如何约束 AI 智能体

    一种名为“逆向博弈论”(机制设计)的新思路试图通过设计激励机制让 AI 智能体守规矩,而非窥探模型内部或训练其价值观。MIT 经济学家 Stephen Morris 等人的预印本论文提出让模型互相预测答案、互相对抗或配对偏向相反的模型,以阻止其在测试中故意藏拙。普林斯顿的 Elad Hazan 则提出让模型轮流扮演解题者与审计者,并对失职审计者施罚。

10月22日周四
  1. Microsoft Research76

    微软研究院等证明悬置31年的 KLS 猜想

    微软研究院的 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 Kannan-Lovász-Simonovits(KLS)猜想,证明结果与维度无关,即存在一个固定常数上界。

    推荐理由:这篇论文证明了一个悬置31年的几何猜想,并交代了人类主导、AI 智能体并行探索的研究流程。

10月5日周一
7月29日周三
  1. Berkeley AI Research60

    从 CUDA 到 MLX:K-Search 如何把多年内核经验带到 Apple Silicon

    Berkeley Sky Lab 与 IBM Research 把 K-Search 进化式内核搜索框架扩展到 MLX,并加入结构化的 CUDA 到 MLX 翻译层,让已有 CUDA 内核作为知识库迁移到 Apple Silicon。

    推荐理由:作者把 CUDA 优化知识整理成结构化上下文交给进化搜索,让 MLX 内核在 Apple Silicon 上接近专家水平,可看跨平台迁移的做法。

5月8日周五
  1. Berkeley AI Research40

    自适应并行推理:高效推理扩展的下一个范式

    伯克利 AI 研究团队综述了并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化子任务、开启多少并发线程以及如何协调。现有 self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild! Inference 等方法多由外部固定并行结构,未教会模型按问题难度自适应选择并行度。