来源:
中国基金报
记者 11 月 16 日获悉,华为将在 11 月 21 日发布 AI 领域的突破性技术,有望解决算力资源利用效率的难题。
具体来看,华为即将发布 AI 领域的突破性技术,可将 GPU(图形处理器)、NPU(神经网络处理器) 等算力资源的利用率,从行业平均的 30% 至 40% 提升至 70%,显著释放算力硬件潜能。
据透露,华为即将发布 AI 领域的突破性技术,是通过软件创新实现英伟达、昇腾及其他三方算力的统一资源管理与利用,屏蔽算力硬件差异,为 AI 训练推理提供更高效的资源支撑。
同时,华为即将发布 AI 领域的突破性技术,与以色列 AI 初创公司 Run:ai 的核心技术路线有共同性,后者在 2024 年底被英伟达以 7 亿美元资金收购。

公开资料显示,Run:ai 自 2018 年成立以来,一直专注于 GPU 调度技术,并致力于打造一个能将 AI 模型拆分并行运行的平台,无论硬件位于本地、云端还是边缘。
据悉,管理生成式 AI、推荐系统、搜索引擎等工作负载,需要复杂的调度来优化系统和底层硬件的性能。
Run:ai 的核心产品是基于 kubernetes(开源容器编排平台) 构建的软件平台,用于调度 GPU 的计算资源,通过动态调度、池化、分片等技术,实现 GPU 资源利用率的优化,让深度学习训练与推理任务在企业级环境中高效运行。
(中国基金报)
文章转载自东方财富





