AI容器软件Flex:a六哥全文免费阅读i将大幅提升算力资源利用率
最佳回答
“六哥全文免费阅读”AI容器软件Flex:a六哥全文免费阅读i将大幅提升算力资源利用率
上海11月21日电 (谢梦圆)华为21日在位于上海的练秋湖研发基地举办2025 AI容器应用落地与发展论坛,在现场宣布AI容器软件Flex:ai正式开源。该AI(人工智能)领域的创新成果将显著提升GPU(图形处理器)和NPU(神经网络处理器)等算力资源的利用率,为AI训练推理提供更高效的资源支撑。
华为公司副总裁、数据存储产品线总裁周跃峰接受媒体采访时,多次强调“要让AI在千行百业落地”。然而,在赋能行业生产过程中,AI硬件资源有限,需精细化利用,否则易造成浪费。
此次,华为联合国内三大高校共同打造了AI容器软件Flex:ai,提供智能资源管理调度新方案,并通过开源开放,降低软件开发难度。
具体而言,该容器软件可将单张算力卡切分为多份虚拟算力单元,切分粒度精准至10%。此技术实现了单卡同时承载多个AI工作负载,在无法充分利用整卡算力的AI工作负载场景下,算力资源平均利用率可提升30%。
此外,因为不同AI模型性能、适配场景存在差异,或出现计算集群负载不均衡、资源利用不充分等情况。针对此痛点,该容器实现了多级智能调度,将AI工作负载与算力资源进行“精准匹配”;并能在负载频繁波动的场景下,保障AI工作负载平稳运行,让每一份算力都“物尽其用”。
据悉,Flex:ai发布后会在魔擎社区同步开源,与华为此前开源的Nexent智能体开发框架、AppEngine应用编排、DataMate数据工程、UCM推理记忆数据管理器等AI工具共同组成完整的ModelEngine开源生态。
“AI容器软件一定要和更多模型生态和多样性算力生态进行适配、对接以及调优。我们希望通过开源共建让AI真正走向平民化。”周跃峰说,目前,该容器软件已在教育、医疗和金融等行业试点应用。(完)
分享让更多人看到
人民日报社概况 | 关于人民网 | 报社招聘 | 招聘英才 | 广告服务 | 合作加盟 | 供稿服务 | 数据服务 | 网站声明 | 网站律师 | 信息保护 | 联系我们
人民日报违法和不良信息举报电话:010-65363263 举报邮箱:jubao@people.cn
人民网服务邮箱:kf@people.cn 违法和不良信息举报电话:010-65363636 举报邮箱:rmwjubao@people.cn
互联网新闻信息服务许可证10120170001 | 增值电信业务经营许可证B1-20060139 | 广播电视节目制作经营许可证(广媒)字第172号
信息网络传播视听节目许可证0104065 | 网络文化经营许可证 京网文[2020]5494-1075号 | 网络出版服务许可证(京)字121号 | 京ICP证000006号 | 京公网安备11000002000008号
人 民 网 股 份 有 限 公 司 版 权 所 有 ,未 经 书 面 授 权 禁 止 使 用
Copyright © 1997-2023 by www.people.com.cn. all rights reserved
































第一时间为您推送权威资讯
报道全球 传播中国
关注人民网,传播正能量