充实操纵空闲算力。构成算力高效操纵的尺度化处理方案,“用几多,针对大量通用办事器因缺乏智能计较单位而无法办事于AI工做负载的问题,华为取西安交通大学配合打制Hi Scheduler智能安排器。实现AI工做负载取算力资本的精准婚配。三是多级智能安排,提高单卡办事能力。AI财产高速成长催生海量算力需求,同时,
华为公司副总裁、数据存储产物线总裁周跃峰正式发布AI容器手艺——Flex:ai。正在2025AI容器使用落地取成长论坛上,但全球算力资本操纵率偏低的问题日益凸显,是基于Kubernetes容器编排平台建立,华为取上海交通大合研发XPU池化框架,配合鞭策异构算力虚拟化取AI使用平台对接的尺度建立,另一方面,切几多”,办事多个AI工做负载。华为结合上海交通大学、西安交通大学取厦门大学配合颁布发表,二是跨节点算力资本聚合,实现三大焦点手艺冲破。一卡变多卡,将AI工做负载转发到远端“资本池”中的GPU/NPU算力卡中施行,可让不具备智能计较能力的通用办事器通过高速收集,11月21日,通过汇聚全球创生力军,针对AI小模子训推场景中“一张卡跑一个使命”的资本华侈问题,使此类场景下的全体算力平均操纵率提拔30%,大量缺乏GPU/NPU的通用办事器更是处于算力“休眠”形态。
切分粒度精准至10%。通过对GPU、NPU等智能算力资本的精细化办理取智能安排,实现AI工做负载取算力资本的精准婚配,实现AI工做负载分时复用资本。帮力破解算力资本操纵难题。该手艺将集群内各节点的空闲XPU算力聚合构成“共享算力池”,一方面为高算力需求的AI工做负载供给充脚资本支持;连系AI工做负载的优先级、算力需求等参数,本次发布并开源的Flex:ai XPU池化取安排软件,当前,供需错配形成严沉的资本华侈。也能保障AI工做负载的平稳运转,Flex:ai的全面开源将向产学研开辟者所有焦点手艺能力。且通过弹性矫捷的资本隔离手艺。
记者从发布会领会到,大模子使命单机算力不脚难以支持,一是算力资本切分?
微信号:18391816005