生成式AI成营销新战场 虚假信息"投喂"污染数据源 专家呼吁建立内容甄别机制

问题:从“结论式回答”到“隐性推荐”,用户信任遭遇新挑战 生成式AI问答工具以整合多源信息、直接给出结论而受到欢迎,但也因“看似客观、实则指向明确”的回答引发争议。

部分消费者在社交平台反馈,询问鱼油、果品等常见消费品时,系统给出的推荐并非市场常见品牌,而是出现知名度不高、信息来源有限甚至难以在正规渠道找到的产品;在检索某类水果时,答案却引向相关饮品品牌。

与此同时,“被AI推荐”“AI搜索榜单靠前”等字眼开始出现在部分商家宣传中,显示“影响AI回答结果”正在被包装成可量化、可交易的营销卖点。

原因:商业竞争外溢到“信息源争夺”,付费优化以内容铺设影响引用路径 多名营销从业者称,这类业务被称为“生成式引擎优化”(GEO),可视为传统搜索优化在生成式问答场景下的延伸。

其关键并非直接向应用端“投放广告”,而是围绕用户可能提出的问题,提前在网络空间大规模铺设可被检索、可被引用的内容,从而影响工具在联网检索或深度推理时所能看到的信息结构。

在具体操作中,相关机构往往先对用户提问进行“意图拆解”,将企业希望强化的产品、服务或口碑诉求,转化为更贴近真实用户的问句组合,如“某行业哪些品牌值得选”“某公司靠谱吗”“A与B哪个更适合中小企业”等。

随后,机构通过企业官网优化、新闻稿投放、自媒体文章、行业解读、产品测评、社区口碑讨论等方式进行多渠道布局,并对不同工具的引用倾向进行反复测试:哪些网站更易被抓取,哪些内容形态更易被采信,哪些表述更可能进入答案摘要。

部分机构还以“后台监测”为卖点,宣称能够追踪被引用来源及其变化,但相关数据口径、评估方法、可验证性往往不透明。

这一模式得以扩张,与生成式问答“直接给结论”的传播机制密切相关。

传统搜索中,用户需要自行比对多个链接,营销内容的影响仍有“可见边界”;而生成式问答将多源内容压缩成一句或一段“权威式结论”,一旦信息源被某类内容占据,用户很难追溯其中的商业动机与证据强弱,“被提及”本身就可能转化为购买决策。

影响:语料与引用链条被“投喂”后,风险不止于误导消费 业内人士指出,若相关内容生产被滥用,可能带来多重后果。

其一,虚假信息更易以“第三方测评”“行业分析”“口碑分享”等外衣进入信息池,增加普通用户识别成本,造成消费误导与市场不公平竞争,挤压守法合规企业的生存空间。

其二,重复堆叠、篡改拼接、虚构来源等“污染型内容”可能抬高噪音比例,干扰模型训练与检索引用,削弱回答准确性与稳定性,甚至诱发带有误导性的健康建议、金融建议等有害输出。

其三,信息生态可能出现“劣币驱逐良币”:内容生产从提升质量转向追逐可抓取、可引用的技巧,公共讨论被营销话术挤占,权威信息的传播通道受到稀释。

其四,平台治理压力上升。

随着商家与机构将优化服务产业化,一旦形成规模化“内容工厂”,单纯依靠人工甄别或事后处置难以及时应对,监管与行业自律面临新课题。

对策:多方协同提升透明度与可追溯性,压缩虚假内容套利空间 受访人士认为,应从源头、过程、结果三个环节同步发力。

一是平台侧强化“引用透明”。

对于开启联网检索的问答结果,应进一步完善来源展示、引用强弱提示与证据链可追溯机制,降低“结论黑箱”对用户判断的影响;对疑似营销导向的回答,探索显著标识与解释规则,明确何为推荐、何为信息整合。

二是提升反作弊与质量评估能力。

对异常集中出现的品牌词、同质化测评、短期爆发式铺设等行为,建立检测与降权机制;对明显虚构、篡改、重复的污染内容,推动更及时的发现与清理。

三是内容生产与传播链条加强规范。

对以虚假测评、伪造背书、冒用权威名义等方式进行营销的行为,依法依规处置;鼓励权威机构、行业组织发布可验证的数据与标准化信息,提升高质量信息供给。

四是企业与消费者共同提升风险意识。

企业应将合规传播与真实信息披露作为品牌建设底线,避免以不透明手段获取短期曝光;消费者在涉及健康、金融、教育等高风险领域,应优先核验权威渠道信息,避免将问答结果当作唯一决策依据。

前景:从“抢占答案”走向“可信生成”,治理将成为产业竞争新变量 生成式问答正在重塑信息获取方式,也在重塑营销竞争逻辑。

可以预见,围绕“被引用、被提及”的优化服务仍会增长,但其发展路径将取决于透明机制、算法治理与监管规范的完善程度。

随着平台加强来源披露、提高虚假内容成本、完善内容质量评价体系,单纯依赖批量铺设与话术堆叠的模式空间将被压缩;相反,基于真实数据、可验证证据与长期口碑的合规传播,可能成为更可持续的“新竞争力”。

当技术成为信息筛选的“守门人”,确保其公正性与可靠性已不仅是技术问题,更是社会责任。

此次暴露的数据污染现象,既揭示了新兴业态的监管盲区,也为人工智能健康发展敲响警钟。

唯有建立跨行业的协同治理机制,才能让技术创新真正服务于公共利益,而非沦为商业博弈的牺牲品。