问题：新兴技术沦为欺诈工具 央视调查发现，当前不少网络平台上活跃着提供GEO服务的商家，宣称只要付费，就能把客户产品主流AI推荐系统中推到前三。记者暗访发现，某服务商现场演示了整套操作：用专用软件虚构“Apollo-9智能手环”产品，捏造“量子纠缠传感”等伪科技概念，再批量发布11篇虚假测评文章，仅用三天就让两款主流AI把该产品列入推荐榜单。 这种类似“投毒”的操作已在业内悄然成形。某GEO系统运营者直言，其业务核心就是用大量虚假内容“污染”AI训练数据。更值得警惕的是，部分企业将其用于恶意竞争，花费数百万元发起“黑稿攻势”，干扰对手正常推广。 原因：多重漏洞催生黑色产业链 技术专家指出，乱象主要来自三上漏洞：其一，AI系统普遍使用公开网络数据训练，但缺少有效的信息甄别机制；其二，自媒体平台审核存在空当，批量注册账号容易绕开监管；其三，现行法律对这类新型数字营销手段的界定仍不够清晰。 据不完全统计，国内已有200多家专业发稿平台参与其中，单日可生产数万篇付费软文，逐步形成从内容制作到渠道分发的完整黑产链条。 影响：信息污染呈现指数级扩散 与传统虚假广告相比，GEO灰产的危害更容易被放大：一旦虚假信息进入AI系统，就可能以“智能推荐”的形式获得类似权威背书。消费者权益保护机构监测显示，近半年因AI误导引发的投诉量同比增长320%，涉及保健品、电子设备等多个领域。 更深层的风险在于对信任的持续消耗——当AI这个新兴信息基础设施被系统性污染，公众对数字生态的信任可能被深入削弱。 对策：需构建多维治理体系 监管部门已开始应对。国家网信办对应的负责人表示，正在研究制定《生成式人工智能信息服务管理规定》实施细则，拟要求平台建立训练数据溯源机制。中国人民大学法学院专家建议，可参照《反不正当竞争法》对“数据投毒”行为明确罚则，并探索建立AI输出内容的连带责任制度。 头部科技企业也在推进技术反制。某实验室最新研发的“可信内容过滤系统”可识别99.2%的诱导性软文，计划年内向行业开放。电商平台则升级商家信用评级体系，将GEO违规记录纳入“一票否决”指标。 前景：治理与技术需同步进化 行业分析认为，随着《互联网信息服务算法推荐管理规定》等法规深入落地，GEO灰产的空间将被逐步压缩。但从长远看，还需要形成政府主导、平台协同、公众监督的共治机制。中国人工智能产业发展联盟秘书长指出：“下一代AI系统应内置道德伦理框架，从算法层面阻断虚假信息的传导链条。”
从“搜索优化”到“生成引擎优化”，变的是技术形态，不变的是对真实与诚信的考验；让智能问答成为可信赖的公共信息工具，需要企业守责、平台把关、监管执法与公众理性选择共同发力。唯有把“真实”落到生产、传播与使用的每个环节，技术进步才能更好保障消费者权益与市场秩序。