百度沈抖：面向10万卡算力集群升级计算平台能力

9月25日，在2024百度云智大会上，百度智能云宣布将百舸AI异构计算平台全面升级至4.0版本。在集群部署环节，升级后的百舸能够将万卡集群运行准备时间从数周最快缩减至1小时，长文本推理效率提升了1倍以上。

百度集团执行副总裁沈抖透露，百舸4.0版本面向10万卡大规模集群部署而设计，但管理10万卡的集群与管理万卡集群有本质不同。要部署10万卡这么大规模的集群，光是在物理层面就要占据大概10万平方米的空间，相当于14个标准足球场的面积。在能耗方面，这些服务器一天就要消耗大约300万千瓦时的电力，相当于北京市东城区一天的居民用电量。（第一财经记者 刘佳）