中新社记者谢梦圆11月21日从上海发回报道,位于练秋湖的研发基地里人头攒动。华为当日在此举办论坛,为了给千行百业提供AI支持,周跃峰副总裁反复强调资源必须精细利用,不然就会造成浪费。他呼吁AI要真正走向平民化,为此公司联合国内三大高校,推出了AI容器软件Flex:ai。 为了降低软件开发难度,他们把这个工具放到了魔擎社区上开源,与之前的Nexent智能体框架、AppEngine应用编排工具、DataMate数据工程套件还有UCM推理记忆管理器一起,组成了一个庞大的ModelEngine开源生态体系。这次发布的Flex:ai最厉害的地方在于能精准切分算力。开发者可以把一张显卡切分成多份虚拟单元,切割的最小颗粒度能做到10%。 借助这项技术,单张显卡就能同时跑多个AI任务。如果原本用不完整张卡的算力资源,平均利用率可以一下子提升30%。面对不同AI模型性能差异带来的问题,这个软件还能进行多级智能调度,保证每个工作负载都能找到最合适的硬件资源进行“精准匹配”。即便是在负载不断波动的情况下,也能维持运行平稳。 目前这套软件已经在教育、医疗和金融行业进行了试点。这次开源行动表明了华为希望通过合作把更多资源聚拢起来,让AI真正走向千家万户的决心。