问题:人工智能加速融入生产生活,在提升效率、推动产业升级的同时,也带来数据安全、算法偏见、深度伪造、责任界定等新风险。随着大模型、智能体等应用扩散,技术影响正从互联网空间延伸到就业结构、公共服务、青少年成长等更广泛领域。如何让技术发展安全、可靠、可控,成为产业界、治理部门与公众共同关注的现实议题。鉴于此,“AI治理”登上年度科技热词首位,体现出鲜明的社会关切与政策指向。 原因:一是技术迭代速度快,而规则供给相对滞后,矛盾更加突出。人工智能从科研探索走向规模化应用,应用场景更复杂、外部性更强,传统监管方式亟需更新。二是社会风险更趋复合。从就业看,重复性、入门级岗位被自动化替代的可能性上升,结构性摩擦加剧;从社会生活看,情感陪伴类产品过度使用可能影响青少年真实社交与心理发展;从信息传播看,生成式内容降低造假门槛,对舆论生态与公共信任形成冲击。三是国际竞争正从“算力与模型”延伸到“标准与规则”。全球人工智能治理进入多边协作与规则塑造并行阶段,各方围绕伦理原则、数据跨境流动、模型安全评测等议题加快布局,治理能力与制度建设正在成为新的核心竞争力。 影响:将“AI治理”置于榜首,表达出三重信号。其一,科技创新需要与治理能力同步提升,在培育新质生产力的同时守住安全与伦理底线。其二,社会对“科技向善”的期待正在从理念走向制度安排,公众更关注可解释、可追责、可审计的治理框架。其三,治理将反过来影响产业路径:边界与规则更清晰,企业创新确定性更强,合规成本更可预期,应用落地也更容易获得社会信任,从而形成“发展—规范—再发展”的正向循环。 对策:人工智能治理是一项系统工程,应坚持技术治理与制度治理并重,推动行业自律与社会监督协同。首先,完善法律法规与配套标准,围绕数据合规、算法透明、内容标识、未成年人保护、责任认定等关键环节,形成可操作、可执行的规则体系,推动安全评测、红队测试、风险分级等机制常态化。其次,强化全链条治理,将治理关口前移至研发、训练、部署、运营等环节,落实安全设计与合规审查,对高风险场景实行更严格的准入与审计。再次,鼓励行业协同与公众教育,形成政府、企业、科研机构、媒体与用户共同参与的治理生态,提升公众识别能力与风险防范能力。最后,积极参与全球治理合作,在多边框架下推动形成兼顾安全与发展的共识规则,促进技术成果在可控前提下更广泛惠及各国。 前景:从此次“十大科技热词”看,具身智能、可控核聚变、脑机接口、商业航天、深海科技、深空探测、银发科技等议题集中呈现,折射出我国面向未来产业的布局正在加速。另外,“AI治理”居首也意味着下一阶段人工智能发展将更强调“以应用牵引、以安全护航、以规则塑形”。可以预期,随着政策工具、标准体系与评测机制完善,人工智能将更稳健地进入制造、医疗、教育、城市治理等关键领域;治理能力提升也将为企业创新提供更清晰的边界与更稳定的预期,推动技术红利更均衡、更可持续地释放。
从“AI治理”登顶榜首,到具身智能、深空探测等新兴产业加速布局,中国科技界正在经历一场深刻的理念转变。这种转变表明,我们对科技发展的理解不再停留在追求技术突破本身,而是更加重视技术与伦理、创新与安全、发展与治理的协同。在全球科技竞争日益激烈的背景下,中国不仅要在技术创新上持续突破,也要在科技治理上形成引领,这正是“科技向善”在新时代的具体落点。