数据中心遭抵制,真正原因可能是电力而非文化战争
走访弗吉尼亚州 Data Center Alley 后可见,数据中心引发的抵制更多源于电力问题而非科技公司所称的文化战争。当地单座数据中心平均功率容量达 54 兆瓦,超过丹佛国际机场用电量;AI 训练所需最小数据中心为 300 兆瓦,理想规模约 6000 兆瓦,相当于芝加哥全市用电。Anthropic 据报已同意支付 34 亿美元购买燃气轮机,为 AI 公司最大规模发电采购。
走访弗吉尼亚州 Data Center Alley 后可见,数据中心引发的抵制更多源于电力问题而非科技公司所称的文化战争。当地单座数据中心平均功率容量达 54 兆瓦,超过丹佛国际机场用电量;AI 训练所需最小数据中心为 300 兆瓦,理想规模约 6000 兆瓦,相当于芝加哥全市用电。Anthropic 据报已同意支付 34 亿美元购买燃气轮机,为 AI 公司最大规模发电采购。
UC Berkeley 的 Aditya G. Parameswaran 等人发布观点文章,指出 GPT-4 级能力从 2023 年初约每百万 token 30 美元降至如今不到 1 美元,部分供应商低于 0.10 美元,并提出数据系统面临面向智能体、承载智能体、由智能体构建三类挑战。
伯克利 AI 研究团队综述了并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化子任务、开启多少并发线程以及如何协调。现有 self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink、Hogwild! Inference 等方法多由外部固定并行结构,未教会模型按问题难度自适应选择并行度。