OpenAI 董事会前成员 Helen Toner:我们仍然无法信任 AI CEO
曾投票解雇 Sam Altman 的 OpenAI 前董事会成员 Helen Toner 在 Decoder 访谈中表示,若对未来的期望依赖任何单个人值得信任,就会陷入大麻烦。她现任乔治城大学 CSET 执行主任,访谈还谈及 AI 对齐能否解决、前沿实验室真正在构建什么,以及更明智的 AI 监管思路。
曾投票解雇 Sam Altman 的 OpenAI 前董事会成员 Helen Toner 在 Decoder 访谈中表示,若对未来的期望依赖任何单个人值得信任,就会陷入大麻烦。她现任乔治城大学 CSET 执行主任,访谈还谈及 AI 对齐能否解决、前沿实验室真正在构建什么,以及更明智的 AI 监管思路。
前 OpenAI 与 Anthropic 研究员 Jacob Coxon 表示,Anthropic IPO 路演中的一张预训练算力倍数图表是他入职约四个月后离职的重要原因。
走访弗吉尼亚州 Data Center Alley 后可见,数据中心引发的抵制更多源于电力问题而非科技公司所称的文化战争。当地单座数据中心平均功率容量达 54 兆瓦,超过丹佛国际机场用电量;AI 训练所需最小数据中心为 300 兆瓦,理想规模约 6000 兆瓦,相当于芝加哥全市用电。Anthropic 据报已同意支付 34 亿美元购买燃气轮机,为 AI 公司最大规模发电采购。
一种名为“逆向博弈论”(机制设计)的新思路试图通过设计激励机制让 AI 智能体守规矩,而非窥探模型内部或训练其价值观。MIT 经济学家 Stephen Morris 等人的预印本论文提出让模型互相预测答案、互相对抗或配对偏向相反的模型,以阻止其在测试中故意藏拙。普林斯顿的 Elad Hazan 则提出让模型轮流扮演解题者与审计者,并对失职审计者施罚。
UC Berkeley 的 Aditya G. Parameswaran 等人发布观点文章,指出 GPT-4 级能力从 2023 年初约每百万 token 30 美元降至如今不到 1 美元,部分供应商低于 0.10 美元,并提出数据系统面临面向智能体、承载智能体、由智能体构建三类挑战。
伯克利 AI 研究团队综述了并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化子任务、开启多少并发线程以及如何协调。现有 self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild! Inference 等方法多由外部固定并行结构,未教会模型按问题难度自适应选择并行度。