问题:人工智能正快速渗透制造、交通、医疗、教育、政务等领域,成为推动新质生产力的重要变量。
一方面,企业和地方对落地应用的需求强烈,商业化、规模化进程明显提速;另一方面,数据安全、算法歧视、深度伪造、责任认定不清等风险同步显现。
实践表明,若治理滞后于应用扩张,可能出现“技术跑得快、规则跟不上”的矛盾,影响公众信任与产业可持续发展。
原因:人工智能兼具通用性与外溢性,既能跨行业复制,也会跨场景放大风险。
其一,模型能力提升依赖数据、算力与场景,数据合规边界、跨境流动、训练数据来源等问题更为复杂。
其二,算法决策具有不透明性,叠加多主体参与的产业链条,使得责任划分、质量评估与安全验证难度上升。
其三,商业竞争推动快速迭代,部分环节可能出现“重效率轻约束”“重上线轻评估”的倾向,亟需制度与标准形成强约束。
影响:把握得当,人工智能将发挥“头雁效应”,带动产业升级、提升公共服务供给效率,助力经济结构优化与社会治理现代化;把握失衡,则可能带来就业结构冲击、公共决策偏差、个人信息泄露与社会信任受损等连锁反应。
尤其在金融风控、医疗辅助诊断、城市治理等关键领域,一旦发生系统性偏差或安全事件,影响范围更广、纠错成本更高。
推动技术更好服务人民、服务发展,成为共识性命题。
对策:一要坚守“以人为本”的初心,把人的安全、权利与尊严置于优先位置。
推动人工智能普惠共享,扩大优质公共服务覆盖面,避免“数字鸿沟”因技术差异而进一步拉大;同时强化个人信息保护与数据使用透明度,完善告知、同意、纠错与救济机制。
二要增强“赋能发展”的信心,突出应用导向与场景牵引,围绕重点行业形成可复制、可推广的解决方案,推动技术进步转化为现实生产力。
引导算力、数据、人才等要素向实体经济与民生领域集聚,促进中小企业在合规框架下共享工具、共享能力。
三要坚定“科技向善”的决心,把伦理要求、社会责任与安全评估前置到研发、训练、部署与运营全过程。
加快推进立法进程,完善标准体系与审查评估机制,形成全方位、多层次综合治理格局;对深度伪造、算法歧视、滥用生成内容等突出问题,建立可追溯、可验证、可问责的闭环治理,压实平台与应用方主体责任。
前景:面向未来,“十五五”规划纲要草案提出加强人工智能同科技创新、产业发展、文化建设、民生保障、社会治理相结合,释放出以更高水平统筹发展与安全的政策信号。
可以预期,随着治理规则逐步清晰、技术标准持续完善、关键核心能力加快突破,人工智能将从“工具性应用”走向“系统性赋能”,在提升全要素生产率、优化公共治理、增强国家竞争力方面发挥更大作用。
关键在于坚持底线思维与系统观念,在创新活力与风险约束之间形成动态平衡。
人工智能的发展是一场长期的、系统的工程。
守住"三颗心"不是对发展的制约,而是为了让发展更加健康、更加可持续。
在新的历史时期,我们需要以更加成熟的治理理念、更加完善的制度设计,引导人工智能朝着造福人类、推动进步的方向发展。
唯有如此,人工智能才能真正成为推动人类文明进步的力量,而不是潜在的风险源。