快科技11月21日音信，据媒体报谈，华为当天认真发布Flex:ai AI容器软件。该居品的中枢打破在于应用算力切分本事，可将单张GPU/NPU算力卡细致切分为多个假造算力单位，最小粒度精确至10%。

这一翻新使得单张算力卡简略同期承载多个AI责任负载，权贵普及硬件资源利用率。

同期，Flex:ai简略将集群内各筹谋节点的酣畅XPU算力进行高效团员，变成长入的“分享算力池”，齐全算力资源的全局调整与纯真分拨。

其中枢本事旨趣是一套深度和会软硬件的系统工程，遮掩从底层芯片到顶层调整。通过翻新性的软件本事深度挖掘硬件后劲，Flex:ai生效将GPU/NPU的典型利用率从30%-40%普及至70%，灵验践行了“以软件补硬件”的理念。

在硬件协同方面，Flex:ai深度整合华为自研的昇腾AI处理器，通过软硬件协同盘算优化，齐全了最好的性能功耗比。

终点在大模子践诺场景中，Flex:ai通过软件层面的翻新，齐全了对包括英伟达GPU、昇腾NPU在内的多种异构算力资源的长入经管与调整，灵验处理了刻下大模子践诺濒临的算力放胆瓶颈问题。

 据悉，Flex:ai将在发布后同步开源在魔擎社区中，以促进本事分享与生态发展。

【本文扫尾】如需转载请务必注明出处：快科技

背负剪辑：鹿角开yun体育网