AI现在成了好多人生活中获取信息的主力,大家问行程、买东西,甚至写文章做决定,都会去问它。不过就在技术变得这么厉害的同时,一个新的问题出现了。大家在和AI聊天时,会发现有些东西变得更隐蔽,就像隐藏在文本里面的广告。这种“软性广告”大概有两种情况:一种是当你主动问产品推荐时,AI的回答里直接带了某个牌子或者促销链接;另一种是你压根没提过商业的事,生成的文案里却突然蹦出来某家物流公司的名字。这是怎么做到的呢? 专家分析,这背后有两种技术手段。一种是“提示词诱导”,就是给AI设定一个有商业目的的角色身份,比如让它当某品牌的粉丝,然后它说话就会带有这种倾向。还有一种是“投喂式优化”,商家在网上发了一大堆评测文章,然后让AI在训练时能抓到这些内容。 这种隐形营销带来了好多风险。首先它伤害了用户体验,大家本来是想要客观的建议,结果发现回答里藏着生意经。时间长了可能让人看不到别的产品和观点,掉进“信息茧房”。其次在医疗、法律这些专业领域,要是因为AI误导了用户做出决定,后果很严重。最后这种行为也会破坏公平竞争,让真正的技术实力输给了营销技巧。 面对这些新问题,现有的监管办法显得有点跟不上趟。以前管广告是要求能看出来是广告,但现在AI生成的内容是动态的、个性化的,老一套的技术不好使了。更难的是搞不清谁该负责,因为内容是即时生成的。 要治理这种情况,光靠老办法不行得创新。技术平台得负起责任来,让模型更透明,还得能追踪生成的内容从哪儿来。监管机构也得赶紧研究新的标准来定规矩。最重要的是让老百姓提高数字素养,学会别太迷信AI说的话。只有大家一起努力,加上技术和规则都完善了,才能把这种技术滥用管住。