OpenAI 董事会前成员 Helen Toner：我们仍然无法信任 AI CEO
曾投票解雇 Sam Altman 的 OpenAI 前董事会成员 Helen Toner 在 Decoder 访谈中表示，若对未来的期望依赖任何单个人值得信任，就会陷入大麻烦。她现任乔治城大学 CSET 执行主任，访谈还谈及 AI 对齐能否解决、前沿实验室真正在构建什么，以及更明智的 AI 监管思路。
#安全/对齐
The Verge · AIAI 评分4646
MIT Technology Review · AIAI 评分4848 逆向博弈论如何约束 AI 智能体
一种名为“逆向博弈论”（机制设计）的新思路试图通过设计激励机制让 AI 智能体守规矩，而非窥探模型内部或训练其价值观。MIT 经济学家 Stephen Morris 等人的预印本论文提出让模型互相预测答案、互相对抗或配对偏向相反的模型，以阻止其在测试中故意藏拙。普林斯顿的 Elad Hazan 则提出让模型轮流扮演解题者与审计者，并对失职审计者施罚。