AI语音冒充亲属骗钱的案子最近老是发生，幸亏警方及时预警，守住了大家的钱包。如今AI发展快，虽然能给生活带来方便，但也让坏人有了空子可钻，搞出了新花样。就在江苏省南京市江北新区，最近发生了一起没成的诈骗案，直接暴露了这种技术被用来骗人的风险。 南京市公安局反诈中心透露，他们的沿江派出所接到了平台的预警指令。说是辖区内有位七十多岁的王姓老人正遭骗子算计。民警立马赶过去一看，老王刚从银行拿出5万块钱现金，正准备照电话里“孙子”的吩咐办事呢。据了解，老人家在家里接到自称是他亲孙子的电话，那边的人说话跟孙子特别像，说是工作上出了急事急用钱，还特意叮嘱“别告诉爸妈”。 因为声音太像真的了，再加上拿亲情当幌子把人吓着了，老王就信了，赶紧跑银行取钱。“这是典型的用AI语音合成冒充亲戚的骗局。”办案民警解释说。现在的语音合成技术都挺成熟了，只要拿到点目标人的录音样本，就能用算法弄出听着很像的声音。这类案子通常专挑老人家下手，利用他们不懂新科技、又特别心疼家里人的心理来骗人。 好在这次是公安机关的预警机制起了大作用。负责的人说，他们已经搞了一套“监测-预警-劝阻-反馈”的完整反诈流程。通过大数据分析可疑电话模式，能在受害转账前赶紧拦着。就2023年以来这功夫，全市靠着这个预警机制帮群众挡下了超过2.3亿元的损失。 技术上看这种诈骗有三个新情况：一是门槛变低了，开源算法和商业API让工具更好拿；二是骗术更强了，声音能做到90%以上的相似度；三是手段更隐蔽了，老爱跟冒充公检法、假投资这些老骗术混在一起搞组合拳。 针对这情况公安那边也没闲着。一方面搞技术反击研发声纹识别系统；另一方面加强宣传专门教老年人怎么防骗。南京那边现在有超过500支社区宣传队，今年已经开了1200多场讲座了。 法律专家也说了这事儿挺难办。中国政法大学刑事司法学院的教授表示：“虽然还是诈骗那一套，但技术变了证据固定和认定都得跟上。现在急需完善相关法律，把技术提供方和平台方的责任边界划清楚。” 从治理角度看光靠一个部门不行得大家一起上。银行要盯着异常交易；通信公司得落实实名制还能查通话记录；科技公司也要把AI伦理规范立起来。工信部之前也要求企业给AI合成的内容加个标识标签，但光发文件还不够还得盯紧落实。 用AI搞诈骗这事儿确实是科技进步带来的新风险，也是对社会管理能力的一种考验。这次南京警方能把骗子拦下说明技术预警加上人工干预确实能拦住新骗术。不过要想根治还是得搭起一个涵盖技术防范、法律监管和公众教育的大网。 现在《反电信网络诈骗法》正在推进执行各部门配合也更紧密了。大家特别是老年人一定要提高警惕记住“不轻信、不转账、多核实”的原则，共同守好财产安全这个底线。