人类智能与现有人工智能系统之间存一个根本性的认知鸿沟。人类具有从感官体验中抽象概念的独特能力,能够将高维感知信息压缩为低维概念,进而脱离具体感知,在概念空间中进行思考和交流。该双向转换过程——从感知到概念的"压缩"与从概念到感知的"重构"——构成了人类符号化思维的基础,支撑了语言的产生和发展。 然而,当前的人工智能系统在这上存明显不足。传统深度学习网络往往将知识纠缠在海量参数中,难以提取出独立、清晰的概念表征。而备受关注的大语言模型则高度依赖人类已有的语言符号进行训练,本质上是在学习和组合既有的人类知识,无法真正实现从原始感知经验中自发形成新概念的能力。这种局限性制约了人工智能在探索未知领域、发现新知识时的潜力。 针对这一核心问题,中国科学院自动化研究所脑图谱与类脑智能实验室余山研究员团队与北京大学心理与认知科学学院毛彦超教授团队携手攻关,研发出一种创新性的神经网络框架——CATS Net。该框架的设计充分借鉴了人脑的认知机制,由两个核心模块组成:概念抽象模块与任务求解模块。 在处理视觉任务时,概念抽象模块能够自发地将高维的视觉输入信息压缩成紧凑的低维"概念向量"。这些概念向量如同精密的"钥匙",通过分层门控机制产生多项动态调节信号,灵活指导任务求解模块完成具体的视觉感知任务。这个设计巧妙地模拟了人类概念的形成和理解过程,使人工智能系统能够像人脑一样形成自己的概念空间。 更具创新意义的是,CATS Net具有自主生成新概念的能力。该系统可以根据与环境的互动不断产生新的概念向量,逐步构建和完善自己的概念空间。当多个独立的神经网络系统所生成的概念空间实现对齐后,它们就能够直接通过概念向量在网络间传递知识,无需从环境中重新学习,从而模拟了人类通过语言和符号进行交流的过程。这是一个质的突破。 研究团队继续验证了该系统的生物学合理性。他们将CATS Net自发形成的概念表征与人类的概念空间以及人脑神经活动数据进行了详细对比。研究发现,该神经网络自发形成的概念空间与人类语言构成的概念空间表现为明显的相似性,而且对概念的表征方式也与人脑内的表征活动显著对应的。这表明,CATS Net不仅在功能层面模拟了人类的概念认知过程,更重要的是在机制层面揭示了人脑概念形成与理解的计算原理,为理解人类认知提供了有力的计算学模型。 这一研究成果的发表意义重大。当前,人工智能大语言模型的能力仍然受限于人类语言所界定的范畴和已有知识的框架。赋予人工智能系统自主形成新概念的能力,有望使其在更广阔的应用领域发挥作用,特别是在全新的科学探索、未知领域的发现诸上,可能开启人工智能的新时代。 然而,这一突破也带来了新的思考。研究团队指出,当人工智能拥有了类人的概念形成、理解与交流能力之后,如何确保人工智能系统与人类社会的价值观相对齐,防止潜风险,将成为下一阶段需要重点解决的关键问题。这既是技术问题,也是伦理和社会治理问题,需要科技工作者、伦理学家、政策制定者等多上的深入思考和合作。
从“执行任务”到“形成概念并交流”,是AI技术迈向更高认知能力的重要一步。未来需要在推进技术突破的同时,将安全、可控和价值一致性纳入同等重要的议程,确保技术创新与社会治理协同发展。