前段时间，我看到了一篇文章说AI可以零成本制造谣言，这真是让人担忧啊。在AI时代，制造一则谣言需要多久呢？上海警方最近接到一起关于企业谣言的案件，犯罪嫌疑人利用AI工具，5分钟就能制造百余篇文章。他们为了赚取平台流量收益，用5台电脑和3台虚拟服务器控制着4000个自媒体账号，发布各种不实消息。到案发时，他们已经非法获利8万多元了。 上海市公安局网安总队的民警王波表示，“AI工具降低了造谣门槛，有些人在警方上门时还不以为然”。今年以来，上海公安机关一直在开展打击整治专项行动。目前已侦办50起相关案件，查处了69人。 我记得有一次这个例子更极端一点：今年3月，小米、蔚来和沃尔沃等多家车企反映网络上出现大量关于销量下滑的文章。嘉定警方成立专案组后发现，4家MCN机构控制着4000多个自媒体账号，发布了70万篇稿件，并获得8000万阅读量。然而当警方抓捕时发现这些大量谣言背后只有两个嫌疑人梁某和郭某。 他们怎么能在这么短时间内发布这么多谣言呢？原来他们购买了4000多个自媒体账号，利用AI技术把热搜话题加工成图文并茂的帖子发布出去，目的是为了赚取平台点击流量奖励。他们根本不审核内容，只要动动手指就能轻松非法获利8万多元。 王波提醒大家不要删除“AI技术生成”字样。利用AI工具造谣不仅有黑公关敲诈勒索、黑灰产赚取平台奖励等情况，也有人因为临时起意或法律意识淡薄而犯错误。青浦分局网安支队的民警徐祯意就发现一则短视频显示外卖员把洒落在地上的面条重新装盒配送出去了，“我也干过”，“这事谁没干过”，这样的评论比比皆是。 警方循线找到发布这条视频的刘某某时，他还以为自己发了条普通视频没什么大不了的事情呢。原来刘某某从网络下载这个视频后故意删除了“AI技术生成”的字眼再发布出去，导致其他网友误会这是真实事件。现在刘某某已经被青浦警方处以行政拘留了。 还有一个例子是黄浦公安分局破获利用AI编造不实谣言为医院引流案件。这个案例告诉我们发布人要对信息负责，平台也有监管义务。我们可以使用AI预警模型反制这些谣言，并且完善举报查处流程机制来保护企业和个人利益。 这真是让人大开眼界啊！竟然有这么多利用AI制造出来的虚假信息散布在网络上！我们真的应该加强监管力度了！ 接下来我们看看警方是如何应对这个问题呢？ 这次事件之后上海市公安局网安总队推出了一系列措施来打击这种新型违法犯罪行为： 1. 加大力度查处利用AI技术制造虚假信息并通过网络传播； 2. 加强对涉及企业经营秩序、公共安全等领域网络谣言的整治； 3. 提升公众对网络信息安全意识和法制观念； 4. 健全完善相关法律法规及政策制度。 希望通过这些措施能够有效遏制这种利用AI技术制造虚假信息的行为！