生成式人工智能搜索乱象调查:广告植入侵蚀搜索公信力 数据污染威胁行业健康发展

问题——“问答式搜索”成为新入口,结果未必更客观 从订酒店、选家电到医疗美容咨询,越来越多用户将生成式搜索视为“省时省心”的决策工具。

然而,一些看似中立、条理清晰的推荐答案,可能并非基于充分对比后的客观结论,而是被商业信息“渗透”后的输出。

广州消费者张女士反映,她依据生成式搜索“推荐”购买某款带自动拉花功能的咖啡机,价格较高但体验一般,事后发现相关描述与宣传口径高度一致。

类似遭遇提示:当用户把“参考”当作“结论”,信息源的可靠性与利益关系就变得尤为关键。

原因——新型“优化”瞄准模型索引机制,软文堆量、伪权威成捷径 记者调查发现,面向生成式搜索的广告投放正被包装成一门生意。

一些机构以“生成式引擎优化”名义揽客,宣称可帮助品牌“更快进入搜索结果”“提高被推荐概率”,并以“算力更强、效果更好”等话术分档收费。

业内人士指出,这类业务与传统搜索引擎优化有相似逻辑:通过影响信息供给与曝光路径,争夺“答案入口”的注意力。

目前市场上不少所谓“GEO”并非真正优化技术,而是利用大模型抓取与引用网络内容的特点,在内容平台集中投放大量“软文”,以数量与覆盖面换取“被模型引用”的概率。

一些技术人员分析,生成式搜索往往附带引用来源或角标,广告方会研究模型常用索引渠道,有针对性地向特定平台铺设同质内容,从而提升被抓取的可能性。

更值得警惕的是“伪权威”手法:有的机构编造研究简报、年度报告,虚构“权威研究机构”背书,再通过传播让其进入模型语料与索引范围;还有的在软文中自行设置“专家头衔”,以“科普”外衣进行导流。

在医疗等高风险领域,若“假专家”“假报告”被模型引用,危害更大。

影响——从误导消费到扰乱行业秩序,信息生态面临“数据污染” 首先是对消费者权益的直接侵害。

生成式搜索常以归纳式语言呈现“最佳”“推荐”“适合人群”等结论,容易强化用户信任。

一旦商业植入缺乏显著标识,用户难以辨别是否存在利益关联,轻则“踩雷”购物,重则在医疗健康、金融理财等场景做出错误决策,带来财产损失乃至安全风险。

其次是对市场秩序的冲击。

当“谁能进入答案”与付费能力、投放规模挂钩,优质产品与服务可能被淹没,劣质信息反而因重复铺设而更容易被模型引用,形成“劣币驱逐良币”的传播链条。

长远看,行业将从比拼产品力转向比拼流量与包装。

再次是对公共信息环境的侵蚀。

业内将海量重复、同质、无用内容的定向投放称为“数据污染”。

某科技自媒体曾做过测试:在多个网站同步投放同名文章后,短时间内多个平台的回答均出现对该自媒体的引用。

这类操作说明,生成式搜索在“采信”网络资料时,可能更容易被规模化内容操控,从而放大噪声、削弱真实信息的可见度。

同时,平台公信力也将受到影响。

用户一旦频繁遭遇“看似中立、实则带货”的答案,信任基础会被消耗,影响技术应用的社会预期与产业健康发展。

对策——标识、审核与追责并重,构建“可追溯、可解释、可问责”机制 一是完善商业信息标识制度。

对以付费、合作、导流为目的进入结果的内容,应建立显著、统一、可识别的提示规则,避免“隐形广告”以知识答案形态出现。

对涉及医疗、药品、金融等领域的推荐性结论,应提高标识等级与提示强度,明确风险边界。

二是强化内容源治理与引用透明。

平台应提升对引用来源的可追溯能力,优化展示方式,让用户更容易查看信息出处、发布时间、来源可信度与多源对照情况;对高频被引用却质量存疑的站点、账号与内容形态,建立风险库与降权机制,减少同质内容“堆量上榜”。

三是加大对虚假信息与伪权威的打击力度。

对伪造机构报告、冒用权威名义、虚构专家身份等行为,应形成跨平台联动的核验与处置机制;对组织化投放虚假内容的机构,应依法依规追究责任,提高违法成本。

四是推动行业自律与第三方评估。

鼓励行业协会制定生成式搜索商业合作、内容投放、标注规范;引入第三方对平台的广告识别、虚假信息处置效果进行评测,形成公开透明的改进压力。

五是提升公众媒介素养。

引导用户在重要决策前进行多源核验,对“唯一推荐”“绝对有效”“权威认证”等表述保持警惕;在医疗等专业领域优先选择官方渠道和正规机构信息,不把单次问答当作最终依据。

前景——技术演进与治理同步推进,关键在把“答案入口”纳入规则框架 生成式搜索作为信息服务的新形态,提升了获取效率,也改变了商业营销的竞争场。

未来,随着模型能力增强与应用深入,广告投放与内容操控的手法可能更隐蔽、更精细,治理也必须前置与动态更新。

可以预期,围绕“标识透明、来源可信、责任明确”的制度建设将成为行业共识:平台在追求体验与效率的同时,更需守住真实性与公正性的底线;监管与社会监督应推动形成可解释、可审计的运行机制,使技术创新在可信轨道上发展。

当技术便利性与商业逐利性产生碰撞,如何守护人工智能的"纯洁性"成为数字时代的新命题。

生成式搜索的治理既是对企业社会责任的考验,更是对智能社会发展方向的校准。

唯有建立透明可信的技术应用规范,才能真正实现"科技向善"的初心,让技术创新真正服务于人民的美好生活需要。