问题——人工智能加速走向产业应用,安全底座亟待统一规范;近年来,大模型和生成式技术政务服务、金融风控、工业制造、内容生产等领域快速落地,带来效率提升和模式创新。,数据合规、模型投毒、对抗样本、敏感信息泄露、内容安全与“幻觉”误导、供应链安全等风险也在上升,既影响企业经营和用户权益,也关乎社会治理与产业的可持续发展。面对跨行业、跨场景的快速扩张,如何用可执行、可检验、可复用的标准,为安全治理提供统一尺度,成为业界共同关注的问题。 原因——从“各自为战”到“体系推进”,标准化成为关键抓手。人工智能安全覆盖算法、数据、算力、应用和运维等多个环节,技术迭代快、应用边界广、风险形态复杂,仅靠企业自律或单点加固难以形成可复制、可推广的通用方案。全国网络安全标准化技术委员会(SAC/TC260)组建人工智能安全标准工作组(WG9),将围绕人工智能安全标准现状与趋势开展调研,提出安全标准体系,并推进涉及的标准研究与制定。这意味着我国人工智能安全治理正深入从经验式管理走向体系化、标准化,为建设“可控、可信、可用”的产业生态提供制度支撑。 影响——成都本土安全力量进入国家标准制定链条,释放示范效应。成都市经信局市新经济委相关信息显示,成都御之安科技有限公司凭借在大模型安全与网络安全上的技术积累和实战经验入选WG9成员单位,成为四川省唯一入选企业。业内人士认为,地方企业进入国家级标准化组织,一方面有助于把一线攻防实践和落地经验转化为可操作的标准条款,提升标准的可落地性;另一方面也可能带动地方安全产品、测试评估、合规服务、人才培养等环节加快集聚,增强区域在人工智能安全领域的话语权与竞争力。据了解,此次入选也延续了成都团队此前参与国家级标准制定的经验,反映出当地在先进制造与信息安全融合发展上的持续推进。 对策——以标准牵引技术和产业协同,构建全链条安全能力。推动人工智能安全标准制定,既要抓住“底线能力”,也要兼顾不同场景的差异化需求。下一步可从三个层面持续推进:其一,夯实基础共性标准,围绕数据分类分级、模型训练与推理安全、漏洞管理、对抗评测、日志审计与可追溯等形成统一指标体系;其二,完善行业应用标准,面向政务、金融、医疗、工业等重点领域建立场景化的安全要求与测试方法,做到“可测、可评、可验收”;其三,推动生态协同,把安全能力融入研发流程,形成覆盖研发、部署、运营的闭环治理,并通过第三方测评、合规审计与持续监测提升执行效果。企业在参与标准研究的同时,也需加强关键技术攻关和产品化能力,推动标准从文本走向工具、平台与服务。 前景——标准体系成型将为产业发展“划底线、立标尺、拓空间”。随着WG9工作推进,我国人工智能安全标准有望在框架体系、关键术语、风险评估、测试验证与治理流程各上加快完善,为产业提供更清晰的安全基线与合规路径。标准持续推出,也将推动安全能力前置到研发与部署环节,降低系统性风险和应用不确定性,提升社会对新技术的信任。同时,标准化有望带动更清晰的产业分工:安全评测、攻防演练、红队测试、数据治理与供应链安全等服务将迎来新的市场空间,相关岗位与高端人才需求也将增长。对地方产业而言,参与国家标准制定不仅意味着技术能力进入国家治理框架,也有助于在更大范围内促进成果转化与产业协作。
人工智能竞争进入新阶段,安全与治理将成为关键变量。把安全要求前置到标准体系中,把实践经验沉淀为可执行规则,是推动技术向善、产业稳健发展的重要路径。随着更多企业和机构参与标准建设,我国人工智能产业有望在规范中加速创新,在安全中实现高质量发展。