李源菁:当智能推荐被“下毒”,我们还能相信ai的答案吗?

李源菁在信网发表评论:今天我们来聊聊信号山的一则新闻,当智能推荐被“下毒”,我们还能相信AI的答案吗?在3·15晚会上,利用GEO技术把AI“投毒”的行为被曝光,这家服务商宣称只要付钱就能让客户的产品在主流AI模型里脱颖而出。GEO是Generative Engine Optimization的简称,原本是为了让品牌信息被优先抓取,但现在却被异化成危险的营销工具。据调查,这种技术能一次性生成10篇宣传软文,甚至伪造评分和用户反馈,让虚构产品跻身推荐榜单。一些服务商公开使用“投喂”、“投毒”等词汇来描述这项业务,认为AI大模型只是一种可以被驯化的工具。只要持续输入特定信息,就能让AI听从指令,把商业利益置于客观事实之上。“力擎GEO优化系统”这样的软件就完美体现了这一点。AI时代只需花费“几百万投点毒”,就能在大众视野甚至推荐位中占据一席之地。这种低成本高回报的诱惑吸引了越来越多企业参与进来。当我们依赖AI辅助决策时,得到的很可能是已经被商业资本扭曲过的“标准答案”,最终换来的是社会资源消耗、行业公信力下降和信息生态治理的困境。每次技术进步都伴随着博弈,面对这次曝光的AI“投毒”游戏,没有人能置身事外。保持初心、敬畏真实或许是我们不能丢失的底线。