现在这个年头,生成式人工智能搜索这块儿碰到了商业化的难题,“悄悄塞广告”这事挺让人操心的。毕竟数字经济现在正火,大家伙儿的生活场景里慢慢都有了这些AI助手。不管是订机票、逛街买东西、查资料还是找医生咨询,这些东西确实挺高效、挺方便的,彻底把咱们以前搜信息的老法子给变了样。可问题来了,技术给我们赋能的同时,钱也跟着来了。那些隐藏在信息里的可信度问题,就这么一点一点地露出来了。 记者在调查中发现了一个新东西叫“生成式引擎优化”,其实也就是以前的搜索引擎优化换了个新马甲。他们的套路就是先摸透这些大语言模型抓数据的规律,然后专门把经过加工的内容投进去,好让自己的商业信息更容易在搜索结果里冒头。我看了一家服务公司的价格表,年费从几千块到几万块不等,他们还承诺说:“你花得越多,算力就越强,效果就越好。” 更关键的是,以前那些搜索引擎好歹还会在广告前打个标签告诉你这是广告,但现在很多AI平台压根就没这一套完整的商业内容标识体系。这就导致用户很难一眼分辨出哪个是真的消息,哪个是商家花钱推的。广州有个张女士就吃了亏,她听信平台的“推荐”买了个很贵的咖啡机,用起来发现根本不像宣传的那样。后来查了一下才知道,那所谓的“推荐”就是从网上随便扒下来的推销内容。 还有些公司是用“数据投喂”的方法来赚钱。他们会在很多平台上一股脑儿发一堆一模一样的文章来喂模型,这样AI就更容易把这些信息给记住。我有个科技自媒体朋友做了个实验:在多个网站上同步发了一篇特定主题的文章,没过几个小时,好几家主流AI平台在回答相关问题的时候都把这篇文章给用上了。 专家说了,这种专门扔一大堆重复信息进去的做法就是在污染训练数据,这很容易让AI的模型变得不客观、不准确。还有一种更隐蔽的手法是弄假权威背书。有的公司会伪造知名机构的报告或者编个假专家身份来忽悠人。比如你在某个平台搜专业服务的时候,结果里说引用了一份“2025年度行业研究报告”,结果一查根本就是广告代理公司瞎编的。 技术界的人也说了,现在AI抓数据的逻辑确实还有改进的地方。虽然有些平台已经在搜索结果后面标了个信息来源的标志,但一般老百姓根本不懂怎么去验证源头。做AI的技术人员也承认模型能从网上捞到的东西很多很广,可就是没法特别好地区分哪些是真的、哪些是假的或者是广告。 生成式人工智能搜索这种新技术正好处在商业伦理和技术创新这两个路口。它把咱们找信息的效率给提高了不少,但也带来了一堆麻烦:像那种偷偷塞广告的做法、数据来源越来越乱、监管还没跟上等等。 想让这一行健康发展,得靠大家一起使劲。做技术的企业得把内容识别和标注的机制弄好点,搞个更透明的信息溯源系统;监管机构也得快点研究出台一些专门管AI广告的规定。只有把这多方的力量捏合到一块儿去治理,才能在技术创新和商业伦理之间找到那个平衡点,真正守好咱们AI时代的那个清清朗朗的信息空间。