近年来,生成式人工智能加速向内容生产、政务服务、教育科研、工业设计等领域渗透,既为提升效率、拓展应用场景提供了新动能,也在内容安全、数据合规、算法治理、虚假信息传播等方面带来新的治理课题。
围绕“促发展与保安全”并重的监管导向,国家网信办会同有关部门依照《生成式人工智能服务管理暂行办法》持续推进备案与登记工作,并按期对已备案、已登记信息进行公告,进一步夯实行业合规底座。
问题:一方面,生成式人工智能服务类型多样,既包括直接面向公众提供的对话、写作、图像等服务,也包括向第三方应用输出能力的模型接口服务。
服务链条长、参与主体多,若缺乏清晰的合规路径与信息公示,容易出现责任边界不明、来源不可追溯、风险处置不及时等问题。
另一方面,部分产品具有舆论属性或社会动员能力,若管理不到位,可能放大内容失实、侵权、低俗不良信息以及对公共秩序的扰动风险,考验治理体系的及时性与精准性。
原因:行业快速迭代叠加应用“低门槛化”,是备案与登记需求增长的重要背景。
随着模型能力以API、插件、工具链方式向外开放,越来越多应用在“调用已备案模型能力”的基础上形成新功能、新产品,治理对象从单一服务拓展至“模型—应用—场景”的复合体系。
同时,用户规模扩大、应用场景深入,客观上要求监管部门以制度化方式推动企业落实内容审核、数据管理、标识公示、风险处置等义务,形成可核验、可追责、可闭环的管理链路。
影响:从公告数据看,2025年全年新增446款生成式人工智能服务在国家网信办完成备案;地方网信部门登记新增330款应用或功能。
至2025年12月31日,累计748款服务完成备案、435款应用或功能完成登记。
这组数据反映出两点趋势:其一,备案工作持续扩面增量,说明供给侧创新活跃,行业进入规模化应用阶段;其二,“备案+登记”的分层管理机制更趋清晰,对不同形态产品实施差异化要求,有助于在不削弱创新活力的前提下提升治理精度。
对企业而言,备案登记与信息公示将成为产品上线与运营的重要合规门槛,倒逼研发、数据、内容、运营等环节建立更完善的内控体系;对用户和社会而言,公示模型名称、备案号或上线编号,有利于增强透明度与可追溯性,提高公众对合规产品的识别度与信任度。
对策:公告明确,对于提供具有舆论属性或者社会动员能力的生成式人工智能服务,应通过属地网信部门履行备案或登记程序;已上线的生成式人工智能应用或功能,应在显著位置或产品详情页面公示所使用已备案或登记服务情况,并注明模型名称、备案号或上线编号。
下一步,推动制度要求落地见效,关键在于三方面协同发力:监管侧要持续完善备案登记的标准化流程与动态管理机制,强化对高风险场景、重点平台的指导与抽查;企业侧要把合规前置到产品设计与模型训练、数据采集、内容生成与分发等全流程,建立分级分类的风险评估与应急处置机制,确保“谁提供服务、谁负责治理”落到实处;行业侧可通过标准建设、第三方评测、技术工具赋能等方式提升安全治理能力,形成可复制、可推广的合规实践。
前景:从发展态势看,备案登记制度将推动行业从“拼规模、拼速度”转向“拼质量、拼治理、拼可信”。
随着应用继续深入各类行业场景,生成式人工智能在提升生产效率、释放数字化红利方面的潜力仍将扩大,但同时对数据安全、个人信息保护、内容标识与版权保护等提出更高要求。
可以预期,围绕透明可追溯、风险可控、责任可落实的制度体系将进一步健全,合规能力强、治理体系完善、技术路线清晰的企业将获得更稳定的发展空间,行业整体将向规范化、体系化、可持续方向演进。
生成式人工智能服务备案登记制度的有效运行,标志着我国在新兴技术治理方面探索出了一条可行之路。
748款备案服务和435款登记应用的数字背后,反映的是创新与规范的良好互动。
面向未来,随着生成式人工智能技术的不断演进和应用场景的日益丰富,相关管理制度也需要在实践中不断完善和优化。
只有坚持创新发展与风险防范并重,才能让这一战略性新兴技术更好地服务于经济社会发展,为建设网络强国和数字中国做出更大贡献。