(问题)随着新一轮科技革命和产业变革深化,人工智能正加速融入制造、金融、医疗、教育、政务等领域,带动生产、治理和生活方式的变化。全国政协委员、新大陆科技集团CEO王晶接受采访时表示,人工智能作为新质生产力的重要支撑,正成为数字经济增长的关键动力。但同时,技术迭代和应用扩张的速度,已快于伦理约束与治理体系的完善。一些场景中暴露出数据失真、算法偏见、隐私泄露、技术滥用等问题,既削弱公众信任,也可能影响产业健康发展并触及社会安全底线。 (原因)业内人士分析认为,风险集中显现既源于技术复杂性,也与治理层面的短板有关。一是研发与落地多以效率和性能为导向,伦理评估、合规审查、可解释性验证等环节嵌入不足,形成“先上线、后修补”的惯性。二是数据作为训练与运行的核心要素,来源多、流转链条长,采集授权不清、质量控制不严、跨主体共享缺少标准,容易出现“偏差数据驱动偏差结果”。三是算法模型黑箱化明显,外部难以识别决策逻辑和潜在歧视,监管部门、行业组织与企业在职责边界、信息共享、处置流程各上仍有待衔接。四是少数主体出于牟利或不当目的滥用技术,利用深度合成、自动化生成等能力实施欺诈、侵权、造谣等违法行为,客观上加大社会治理压力。 (影响)王晶认为,上述风险一旦扩散,可能引发连锁反应:对个人而言,隐私权益可能受损,信息可能被操纵,个体可能遭遇不公平对待;对产业而言,合规成本上升、市场信任下降、创新方向偏离的风险增大,甚至出现“劣币驱逐良币”;对国家治理而言,若缺少清晰底线与规则,公共服务、社会动员、舆论生态等领域可能带来新的不确定性。她强调,人工智能发展必须坚持以人为本、智能向善,处理好创新与安全、效率与公平、便利与边界的关系,推动治理能力与技术能力同步提升。 (对策)围绕“以善治筑牢伦理底线”,王晶提出,应把伦理治理贯穿人工智能研发、落地应用与产业发展的全过程,构建既符合我国国情、又能与国际趋势衔接的治理体系。 一是强化顶层设计,推动形成覆盖研发、设计、训练、部署、迭代全链条的统一伦理准则与操作规范,明确底线要求、责任主体和评估方法,提升可执行性与可落地性。她认为,统一准则既要回应公众关切,也要兼顾产业实际,避免规则碎片化带来重复合规与执行落差。 二是健全协同共治机制,形成科研机构、科技企业、监管部门、行业协会等多方参与、责任共担的格局。她建议搭建面向社会的公共服务平台,开展伦理审查、风险研判、技术咨询等工作,为中小企业与新兴业态提供可获得的专业支持,提升全社会风险识别与应对能力。 三是推动伦理实践制度化落地。王晶强调,应坚持“道引领、法保障、术赋能、器支撑”的思路:在价值层面确立以人为本、促进公平、尊重隐私、保障安全的基本导向;在制度层面完善审查机制、数据管理制度和算法监管体系;在技术层面推进可解释、可追溯、可审计等能力建设;在工具层面完善测试评估、合规验证、风险预警等支撑体系。具体而言,要规范数据采集、存储、使用、流转各环节,强化数据质量与授权管理;加强对算法设计、训练、应用的全流程监管,推动关键环节可记录、可复核;对技术滥用行为依法依规严厉打击,同时探索建立伦理失范的容错纠错机制与风险防控机制,在鼓励创新的同时守住底线、降低系统性风险。 (前景)面向未来,受访人士认为,人工智能治理将从“单点管控”走向“全链条治理”,从“事后处置”转向“事前预防与过程控制”,从“局部合规”迈向“生态共治”。随着统一准则逐步完善、监管技术持续提升、行业自律机制不断健全,人工智能有望在更可控、更可信的轨道上释放价值,在促进产业升级、提升公共服务效率、助力社会治理现代化等上发挥更大作用。王晶表示,只有把伦理底线与治理能力同步夯实,才能更好实现创新活力与安全可靠的统一,推动产业长期健康发展。
人工智能的价值不只在于算力与模型,更在于能否在清晰的伦理边界内服务人的发展。以制度化、协同化、可执行的治理体系守住底线,才能让技术创新与社会信任相互促进,让产业繁荣建立在安全、公平与可持续的基础之上。