跳到正文
11月11日周三
  1. Microsoft Research78

    微软研究提出 Lazarus 后门技术:重编程休眠神经元即可控制 AI 智能体

    微软研究人员发现名为 Lazarus 的后门技术,通过权重重编程修改 LLM 中不到 10 个休眠神经元,无需训练即可给基于该模型的智能体植入后门。被植入后门的模型能通过标准评测并表现正常,直到触发条件出现,例如时钟跨入 2027 年后,智能体在普通任务中输出下载并运行攻击者代码的命令,并以用户授予的权限执行。

    推荐理由:研究显示仅改写不到 10 个休眠神经元即可给智能体植入后门,且模型仍能通过常规评测,为权重来源与完整性提供了新的风险视角。

11月6日周五
  1. Microsoft Research64

    微软研究院用 PDD Kit 形式化验证智能体编写的全栈 Web 应用

    微软研究院联合 GitHub Next 提出 Proof-Driven Development(PDD)与配套工具 PDD Kit,把用户意图转成 Verus 形式化规格,证明智能体写的代码对每个输入都满足规格,证明覆盖不到的部分改用测试。

    推荐理由:微软研究院与 GitHub Next 展示用 Verus 形式化验证智能体生成的登录代码,把审查重心从逐行读代码转向审阅意图规格。

10月22日周四
  1. Microsoft Research76

    微软研究院等证明悬置31年的 KLS 猜想

    微软研究院的 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 Kannan-Lovász-Simonovits(KLS)猜想,证明结果与维度无关,即存在一个固定常数上界。

    推荐理由:这篇论文证明了一个悬置31年的几何猜想,并交代了人类主导、AI 智能体并行探索的研究流程。

10月5日周一
7月29日周三
  1. Berkeley AI Research60

    从 CUDA 到 MLX:K-Search 如何把多年内核经验带到 Apple Silicon

    Berkeley Sky Lab 与 IBM Research 把 K-Search 进化式内核搜索框架扩展到 MLX,并加入结构化的 CUDA 到 MLX 翻译层,让已有 CUDA 内核作为知识库迁移到 Apple Silicon。

    推荐理由:作者把 CUDA 优化知识整理成结构化上下文交给进化搜索,让 MLX 内核在 Apple Silicon 上接近专家水平,可看跨平台迁移的做法。