全球首位人工智能部长的启示:技术创新必须跟制度创新一起走才行

阿尔巴尼亚在2023年秋天推出了全球首位人工智能部长,名字叫迪埃拉。这个部长是个虚拟人物,他的形象是根据一位当地女演员设计的,名字在阿尔巴尼亚语里意思是“太阳”。拉马总理把这个项目当成了向欧盟展示阿尔巴尼亚治理能力的重要手段,希望能帮助这个巴尔干国家在2030年前加入欧盟。 迪埃拉的任务就是帮忙处理政府服务,还有审查政府采购的招标情况。拉马总理觉得用这种方法能打击腐败,特别是那些在公共采购中存在的行贿问题。虽然迪埃拉没有野心也不关心利益,只靠数据和算法工作,不过在最近发生的事件中,这个项目遇到了很大的麻烦。2024年年初,负责设计和管理迪埃拉系统的阿尔巴尼亚国家信息局爆出了丑闻。这个局的局长和副局长被指控与犯罪组织勾结,利用威胁手段操纵投标过程,现在他们已经被司法部门软禁了。 这个消息让大家对这个AI部长的项目产生了怀疑。反对派和媒体说负责制造这个反腐工具的机构自己都深陷腐败之中,这简直是个讽刺。安迪·霍查伊在伦敦国王学院研究数字治理,他认为技术工具不可能独立于制度环境而存在。如果系统开发的时候就被植入偏见或者数据被篡改了,那算法出来的结果就不会公平。 德国外交关系委员会之前也提到过这个问题,他们认为虽然AI部长提高了效率,但建筑和旅游这些领域的腐败依然很严重。学界的人现在担心三个问题:迪埃拉的算法会不会故意忽略某些贿赂的证据;系统用的训练数据有没有被污染来保护某些人的利益;还有虚拟部长的决策过程能不能被审计。 好在这次丑闻并没有完全否定迪埃拉的技术价值。监测显示上线后办理公共服务的时间确实缩短了,有些标准化的采购流程投诉也少了些。但问题是在落后的制度环境下用先进技术工具很容易出问题。如果监管有漏洞、问责制度也不健全的话,技术创新反而可能变成新的权力寻租工具。 阿尔巴尼亚的这次实验给了我们很多启示:技术创新必须跟制度创新一起走才行。算法透明必须匹配权力透明,工具理性也要配上价值理性。在数字化转型的时候各国都得建立好技术伦理审查机制和数据监督体系才行。只有这样人工智能才能真正帮助公共服务变得廉洁高效而不是变成旧问题的新载体。 这个从技术理想主义开始的治理探索现在已经陷入了现实的复杂性之中。最终能不能成功还是要看人类怎么平衡技术带来的力量和制度对它的制衡。