Tech war: Huawei to open-source software tool to optimise AI chip use | 技术战：华为开源软件工具优化AI芯片使用

华为科技日前推出了一款开源软件Flex:ai，声称能够显著提高人工智能芯片的利用率，帮助中国企业在没有最新Nvidia处理器的情况下实现世界级的AI训练能力。 这款软件基于开源平台Kubernetes，旨在通过调度和整合不同芯片制造商的GPU、NPU等加速器，提升硬件资源的使用效率。华为表示，Flex:ai平均可以将处理器利用率提升30%，并通过智能调度器Hi Scheduler在集群中合理分配资源，动态调配空闲处理器以支持多任务并行运行。

Flex:ai的设计目标是优化计算资源的使用，推动AI基础设施的普及，促进“AI民主化”。该系统能够将一块显卡虚拟化为多个计算单元，支持多任务同时进行，从而解决大任务难以单卡完成、小任务不能充分利用硬件的问题。华为希望通过开源和创新技术，加快中国在AI基础设施方面的自主发展步伐。

via SCMP Full Text Feed