在 Amazon Bedrock 上用 NVIDIA NeMo Switchyard 为编码智能体请求路由模型
NVIDIA NeMo Switchyard 是一个开源库，可让 AI 智能体为每个请求选择模型，其 LiteLLM 集成支持 Stage 和 Random 两种路由策略。
#部署/工程
AWS Machine Learning BlogAI 评分4242 AWS Machine Learning BlogAI 评分5050 用 Amazon SageMaker HyperPod Data Capture 构建模型改进飞轮
Amazon SageMaker HyperPod 新增 Data Capture 能力，可在端点、负载均衡器、模型 Pod 三个独立层级把线上推理输入输出记录到 Amazon S3，对模型可用性零影响。文章以 Qwen2.5-3B-Instruct 家电客服路由为例，演示从采集、Athena 分析、SQL 标注到微调再部署的完整飞轮，并对比微调前后准确率。
AWS Machine Learning BlogAI 评分5555 AWS 发布 SGLang-Neuron，可在 Trainium 上部署前沿模型
Amazon 宣布 SGLang-Neuron 通过 AWS Deep Learning Container 公开可用，由 RadixArk 与 Annapurna Labs 合作发布，可在 Trainium 上用现有 SGLang 接口服务模型并生成 RL rollout。
Microsoft Research精选AI 评分6464 微软研究院用 PDD Kit 形式化验证智能体编写的全栈 Web 应用
微软研究院联合 GitHub Next 提出 Proof-Driven Development（PDD）与配套工具 PDD Kit，把用户意图转成 Verus 形式化规格，证明智能体写的代码对每个输入都满足规格，证明覆盖不到的部分改用测试。
推荐理由：微软研究院与 GitHub Next 展示用 Verus 形式化验证智能体生成的登录代码，把审查重心从逐行读代码转向审阅意图规格。
GitHub Blog · AI & MLAI 评分5858 GitHub 详解密钥检测模型：用 ModernBERT 分类器减少误报
GitHub 介绍其新的密钥扫描流水线，用正则生成候选、再由微调的 ModernBERT 分类器结合文件路径与上下文判断是否为真实凭证。相比此前的 LLM 流水线，仓库所有者加权告警接受率提升 11.5%，推送后扫描中位执行时间降低 86%，服务成本降低超过 98%。离线评估中该流水线精确率提升 13%、召回率提升 19%，模型以 ONNX 格式和 8-bit 量化导出用于推理。
GitHub Blog · AI & MLAI 评分5858 GitHub 推出基于 ModernBERT 的密钥检测模型，扩展推送保护
GitHub 发布与 Microsoft Applied Sciences 合作微调的 ModernBERT 分类器，把推送保护扩展到无固定格式的密钥，可在 2 毫秒内评估一批候选密钥，有望让可拦截的密钥数量翻倍以上。
Berkeley AI Research精选AI 评分6060 从 CUDA 到 MLX：K-Search 如何把多年内核经验带到 Apple Silicon
Berkeley Sky Lab 与 IBM Research 把 K-Search 进化式内核搜索框架扩展到 MLX，并加入结构化的 CUDA 到 MLX 翻译层，让已有 CUDA 内核作为知识库迁移到 Apple Silicon。
推荐理由：作者把 CUDA 优化知识整理成结构化上下文交给进化搜索，让 MLX 内核在 Apple Silicon 上接近专家水平，可看跨平台迁移的做法。
Berkeley AI ResearchAI 评分5757 智能免费之后：面向智能体、承载智能体与由智能体构建的数据系统
UC Berkeley 的 Aditya G. Parameswaran 等人发布观点文章，指出 GPT-4 级能力从 2023 年初约每百万 token 30 美元降至如今不到 1 美元，部分供应商低于 0.10 美元，并提出数据系统面临面向智能体、承载智能体、由智能体构建三类挑战。
Berkeley AI ResearchAI 评分4040 自适应并行推理：高效推理扩展的下一个范式
伯克利 AI 研究团队综述了并行推理领域进展，重点分析自适应并行推理——让模型自行决定何时分解并并行化子任务、开启多少并发线程以及如何协调。现有 self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild! Inference 等方法多由外部固定并行结构，未教会模型按问题难度自适应选择并行度。