(问题)随着人工智能技术迭代加速,应用场景快速扩展,机遇与风险并存;如何鼓励创新的同时有效防范算法偏见、虚假信息扩散、隐私与数据安全、就业结构变化以及跨境监管碎片化等问题,已成为各国共同面对的现实课题。当地时间2月4日,联合国公布“人工智能问题独立国际科学小组”40位候选人名单,旨在以更具权威性、独立性的科学评估为全球治理提供支撑。候选名单中包括上海交通大学、上海人工智能研究院院长宋海涛,以及中国工程院院士、云计算技术专家王坚。联合国大会预计于2月12日就成员资格作出最终决定。 (原因)从国际层面看,人工智能发展呈现“能力跃升快、规则形成慢”的突出矛盾:一上,大模型、自动化决策等技术不断降低使用门槛,推动产业效率提升;另一方面,国际社会对技术边界、责任分配、审计评估、数据跨境流动等关键议题尚缺乏可操作的共同框架。古特雷斯有关表态中指出,人工智能正以“光速”发展,建立有效“防护栏”的紧迫性上升。尤其在信息传播领域,深度合成等技术在带来内容生产效率提升的同时,也抬升了“以假乱真”的治理成本,社会公众对科学结论与伪科学叙事的辨识压力随之增大。 (影响)在这个背景下,联合国拟推动建立完全独立的国际科学机制,核心指向是用更系统的证据、指标与评估方法,缩小国家间、地区间以及不同群体间的“知识鸿沟”,并对人工智能对经济社会的实际影响作出更可靠判断。其意义主要体现在三上:一是为成员国制定政策提供可比较、可复用的科学依据,减少“各自为战”导致的监管空白与重复成本;二是为产业界形成更稳定的预期,推动技术研发、合规要求与公共利益之间更好衔接;三是为公众建立更透明的信息环境,通过科学评估提升对风险的识别能力,减轻谣言、误导性内容对社会信任的侵蚀。 (对策)从治理路径看,该小组的定位强调“联合国支持下独立运作”,有助于增强专业性与公信力,避免被单一利益所左右。下一步若正式成形,可在三上发力:其一,围绕安全、可靠与可控的关键议题,提出全球通行的术语体系、风险分类与评估基线,推动各国监管部门形成“同题共答”的最低共识;其二,建立跨学科、跨地区的证据汇聚机制,将技术评测、社会影响评估、伦理与法律研究相结合,为政策制定提供可验证的依据;其三,强化国际合作与能力建设,帮助发展中国家提升基础设施、人才与治理能力,使人工智能红利更均衡地惠及不同地区与群体,避免数字鸿沟深入扩大。 (前景)当前,全球围绕人工智能治理的讨论持续升温,各方对“既要发展、也要安全”的共识增加,但在规则适用范围、企业责任边界、跨境协同机制各上仍存在分歧。联合国推动建立独立国际科学小组,发出以科学支撑促共识、以合作应挑战的积极信号。中国科学家进入候选名单,表明了国际社会对中国在相关领域科研与产业实践积累的关注,也为在多边框架下更好分享经验、参与规则讨论提供了渠道。可以预期,随着名单最终确定及工作机制逐步落地,该小组的评估成果与政策建议将对各国立法、行业标准、技术审计及公共传播产生更直接影响,并推动全球治理从原则倡议走向更具可操作性的制度安排。
人工智能既是机遇也是挑战。联合国成立独立科学小组表明国际社会对这个问题的重视。中国科学家的参与展示了中国在AI领域的实力与担当。只有通过国际合作与科学引领,才能确保AI技术真正造福全人类。