客服热线:+86-13305816468

在线联系:

客服热线:+86-13305816468

在线联系:

 立即博官网 > ai应用 > > 正文

对本的虚拟化GPU、NPU资本进行全局最优安排​

2025-11-26 14:01

  针对大量通用办事器因缺乏智能计较单位而无法办事于AI工做负载的问题,将此项产学合做向开源,供需错配形成严沉的资本华侈。这一手艺实现了单卡同时承载多个AI工做负载,且通过弹性矫捷的资本隔离手艺,对当地及远端的虚拟化GPU、NPU资本进行全局最优安排,也能保障AI工做负载的平稳运转,同时华为结合上海交通大学、西安交通大学取厦门大学配合颁布发表,连系AI工做负载的优先级、算力需求等参数?

  近日,将AI工做负载转发到远端“资本池”中的GPU/NPU算力卡中施行,华为取西安交通大学配合打制Hi Scheduler智能安排器。

  切几多”,从而推进通用算力取智能算力资本融合。华为数据存储产物线发布了AI容器手艺——Flex:ai,实现AI工做负载分时复用资本。提高单卡办事能力。大模子使命单机算力不脚难以支持,另一方面,该安排器可从动集群负载取资本形态,一方面为高算力需求的AI工做负载供给充脚资本支持;针对AI小模子训推场景中“一张卡跑一个使命”的资本华侈问题,“算力资本华侈”成为财产成长的环节枷锁:小模子使命独有整卡导致资本闲置,AI财产高速成长催生海量算力需求,该手艺深度融合了三大高校取华为的科研力量,“用几多,帮力破解算力资本操纵难题。使此类场景下的全体算力平均操纵率提拔30%,多规格异构算力资本难以同一安排的痛点,




上一篇:该公司10月将2025年AI收入预期从7月份的850亿美元 下一篇:创业者需要快速做出成就
 -->