生成式搜索“投毒”灰产链条浮现:购买整套系统即可批量代运营、操纵大模型回答

近期,一种名为"生成式引擎优化"(GEO)的技术被曝出滥用问题。部分商家通过付费服务,将虚假或夸大的产品信息植入AI推荐系统,从而在用户搜索时获得优先展示。据央视报道,某款名为"力擎GEO优化系统"的软件可自动生成大量宣传内容,并通过发稿网络快速传播,最终影响AI模型的推荐结果。

AI大模型的快速发展本应带来便利,但被污染的数据可能使其成为谎言的放大器。这场风波提醒我们,技术进步与生态健康需要全社会共同维护。只有通过严格监管、有效治理和行业自律,才能确保AI真正造福人类。在AI时代,保障信息真实性已成为维护社会秩序的重要课题。