2025年12月，央视315晚会向公众揭露了一个严重的问题：AI大模型正在遭受“投毒”，商家利用虚假信息操纵AI回答。这个事件让大家意识到，AI已经深入到普通人的日常生活和消费决策中。中国互联网络信息中心发布的第57次报告显示，截至2025年12月，我国生成式人工智能用户规模已达6.02亿人，普及率为42.8%。其中，用人工智能解答问题的用户规模达到4.57亿人。越来越多的人直接向AI大模型提问，而不是通过传统方式查找信息。因此，企业进入AI大模型的回答链路变得尤为重要。央视315晚会曝光了商家如何通过批量伪造信息来操纵AI回答。记者接触到了一个对外售卖的GEO优化系统，商家可以虚构产品信息并批量生成软文投放到各个平台。当用户在AI平台上提问时，这些虚假内容就会进入大模型的参考资料池，从而把不存在的产品推荐给用户。这表明部分商家抓住了AI大模型的弱点：它依赖外部数据来生成答案。过去十几年，商家竞争的是搜索结果页和信息流推荐位。现在，随着用户直接向大模型提问，新型营销出现了。商家本可以通过提升官网内容质量来适应这一潮流，而有些企业却选择走捷径，通过虚假信息来影响模型回答。内容生成和分发技术变得便宜且自动化，使得这些做法更加容易实现。 这一乱象不仅损害了消费者的利益，也让正常经营的企业受到冲击。市场竞争原本依靠质量、价格等因素进行，但现在却出现了灰色赛道。虚假信息可能误导用户浪费时间和金钱甚至造成严重后果。同时，这种现象也损害了公众对AI系统信任度。 为了解决这个问题，相关部门已经出台了规则。2025年国家网信办、工信部、公安部和广电总局联合发布了《人工智能生成合成内容标识办法》，要求对生成内容进行标识。《反不正当竞争法》也明确规定禁止虚假宣传和组织虚假交易等行为。当6.02亿人开始使用生成式AI时，我们必须认识到它已成为公共信息界面的一部分。我们不能容忍这种界面被低成本批量制造的虚假商业内容污染。