第三届中国科技伦理论坛聚焦人工智能伦理

记者从中国科协了解到,11月22日在上海举办的第三届中国科技伦理论坛上,来自全国的百余位专家学者齐聚一堂,围绕“人工智能时代的科技伦理”展开了深入讨论。此次活动由复旦大学承办,涵盖了同济大学党委、中国科学院、中国工程院等机构的代表。为应对人工智能迅猛发展带来的挑战,中国科协党组成员、书记处书记王进展强调,要坚持以人为本、科技向善的原则,加强伦理规范建设,并加快学会建设和知识体系构建。面对算法偏见、幻觉等风险,中国工程院院士、同济大学党委书记郑庆华指出,人类价值观的复杂模糊与人工智能目标的精确性之间存在矛盾。他提出实现人机双向对齐的方案:一方面通过人类反馈强化学习校准价值观,另一方面要适应人机协同的新范式。他呼吁构建多维度、持续演进的体系推动技术、治理与文化三方携手共进。 中国人民大学教授龚群分析了生成式人工智能的伦理风险,认为主要源于工具理性与价值理性的冲突。他指出三大核心问题:监管困境与黑箱风险、感知判断错误和个人隐私泄露。龚群主张确认人的责任核心地位,加强算法审计制度并保护个人数据权利。对于如何破解价值对齐难题,首都师范大学教授王淑芹认为智能体是人的意图载体,科技工作者应使算法体现人类共识原则。 复旦大学哲学学院教授王国豫与华东师范大学终身教授袁振国进行了主题对谈。袁振国提出“教师-学生-智能体”三元主体互动论,指出未来教育将形成个性化全时空学习场域。他认为人工智能时代的教育本质是教导师生在共生中做机器的主人。中国科学院院士、复旦大学校长金力表示新兴技术对科技伦理提出高要求,复旦大学已成立研究院、设立硕士点并发布了AI智能体系统“一鉴”。金力希望通过论坛汇聚共识,深化理论体系构建并推动社会各界广泛关注。 复旦大学教授杨珉介绍了白泽大模型动态安全合规测评平台能为国家安全治理提供决策支撑。他呼吁建立跨学科治理机制确保人工智能可控发展。据悉论坛还设置了多个专题环节,分别探讨人机共生时代的人的自主性与身份认同、医疗和神经科学机遇与挑战、道德增强可能性以及全球话语体系构建等议题。中新网报道称这是一次汇聚各界智慧共同应对科技伦理挑战的盛会。