江小涓:ai对人类造成极端伤害政府该出手干预

在3月24日的博鳌亚洲论坛上,江小涓对AI的发展提出了自己的看法。作为国务院原副秘书长、国家数据专家咨询委员会主任、中国工业经济学会名誉会长,江小涓明确表示,一旦AI对人类造成极端伤害,政府就该出手干预。她把AI的发展分成了三个层面来考量:一是发展路径是否向善,二是效率提升是否合理,三是社会效果是否合意。 对于仅仅能节省劳动力的AI,江小涓认为必须持谨慎态度。如果这种应用不能带来质量的提升或更加绿色,仅仅替代了人力,那就得小心行事。她还指出技术迭代太快,应用前景广阔,AI渗透到各行各业后能带来巨大的效益和安全改善。 谈到合理与否时,江小涓强调要看它能否推动经济发展、增加老百姓的福利以及促进社会公平。她觉得数字技术在提效和增质方面确实有很大好处,因此是合理的技术选择。但在公平分配上,她表示不能完全放手给市场去配置资源。 江小涓提到了一个例子:上世纪80年代以后新产业发展带来的岗位增加量开始减少。有的城市想用新设备替代低端劳动力,但研发投入和设备购买资金都给了研发机构和替代机构。政府因为这是新技术新产业给了它应用场景结果却没任何作用干活还比人差得多。“这说明AI应用不能完全交给市场来主导。” 关于合意性这个话题,江小涓举了个极端的例子:如果AI能让人只感受到快乐而压抑其他情感那真的是我们想要的吗?原本科学是发现自然规律现在要造一个不存在的规律改变人类感受和社会结构这能被接受吗?她觉得合意性甚至比合理性更复杂涉及到每个人的切身利益需要大家一起讨论。 她建议当AI对人类造成极端损害时政府就该站出来干预严重影响社会安全和隐私时政府更要走在前面。“这种问题不能通过市场博弈解决。”江小涓强调社会科学界要对它做真实的评价不能只喊口号不过目前阶段还是要先把AI发展起来。