Chinese AI chips fall short on coding, forcing firms to stretch scarce Nvidia supply | 中国AI芯片编程性能逊色,迫使企业精打细算使用稀缺的英伟达芯片

中国人工智能企业正通过优化软件,应对推理需求快速增长。由于获得英伟达处理器的渠道受限,部分推理任务仍依赖数量有限的高端芯片。与需要高端芯片的模型训练相比,推理是训练完成后利用模型知识生成回应的阶段,能够适配国产硬件。

不过,业内人士表示,复杂任务仍可能需要更强的计算能力,相关企业因此正努力提升软件效率,以更充分地利用现有芯片资源。

via South China Morning Post
 
 
Back to Top