冯丹:大模型的推理能力用起来

全国人大代表、华中科技大学副校长冯丹跟人民网记者申佳平说,现在全球的AI竞争,已经变成了比拼谁的智能密度更高,关键就在大模型上。想把这个智能密度转化成实际竞争力,就得赶紧把大模型的推理能力用起来。 她觉得,咱们国家在AI硬件架构这块,除了算力有时候有点跟不上,在存储这块的技术可是已经很厉害了。像DRAM、闪存盘还有高性能分布式文件存储这些关键技术,咱们都能自己搞定,而且在国际上也有竞争力。比如DeepSeek,他们通过算法优化还有缓存方面的创新,把计算效率提上去了,成本也就降下来了。 不过,把大模型推理能力落地到实际应用里,现在也有几个坎儿。一是咱们现在没有那种通用的行业适配框架和工具,大家只能摸着石头过河。二是随着大模型越来越多,怎么让计算机、存盘和网络协调起来一起干活,这事儿也没办好。三是我们还没有符合中国国情的推理效能评估标准,到底哪个模型好用不好用很难说清楚,导致大家老是重复做一样的事情。 要解决这些问题,就得靠政策引导、技术创新还有标准建设这三板斧。特别是要把算法、数据和存储这三样东西协同起来搞创新。 先说政策这块。国家得给数据存储定个规矩和规则,给大家弄出一些通用的工具和框架来加快应用。还得赶紧制定国家数据资源储备的战略规划,搞个“存力中心”建设工程。要支持企业、学校建数据共享联盟。数据就像资产一样宝贵,得好好存着给以后用。 再说说技术创新。国家可以设立重大专项来支持新一代AI算法和存储技术的发展。支持高校、研究所还有企业一起建联合实验室,把研究、创新和市场应用连起来。 最后是标准建设。得建立一套符合中国行业应用特点的推理评估体系,别总是跟着别人的标准走。要组织大家一起定评测标准,还要搞个权威的评测机构定期发报告给企业参考。最好还能推动一下国际标准的制定。