陆再谋:对付“ai投毒”,最关键的就是找个靠谱的信息源

陆再谋,现在在杭州带带货科技有限公司工作,专门搞AI应用,尤其是AI和影视创作的结合。比如他弄了个“中国AI电影节”,还给高校讲这方面的课。他还在OpenAI刚推出Sora这个视频生成模型的时候,2024年2月立马就发起了“Sora首部AI电影共创计划”,弄得大家都挺关注。除了创业,他还特别热心公益,是贵州的侗族人,特别爱家乡。2017年就在老家贵州黎平县龙形街道构洞村设了“思源树德奖学金”,专门奖励优秀学生。到了2021年,这个奖已经发了四届了。现在他又发起了“爆流AI”项目,还掌管着“bookGPT”。 不过现在网上的情况挺让人头疼,“3.15”那会儿曝光了GEO的“AI投毒”。以前百度靠搜索一家独大,搞那个臭名昭著的“竞价排名”,谁给钱多谁的信息就排在前面。结果莆田系这些暴力行业霸占了医疗搜索,一堆虚假信息全跑到了首页。现在到了AI时代,“竞价排名”的套路还会不会重演呢? 大模型虽然没了“竞价排名”,但还是有过滤的问题。如果信息源没有过滤好,就容易把垃圾信息塞进去当养分。因为AI写100篇垃圾营销文章或者生成1000个短视频太容易了。这些内容如果被爬虫到处收录下来,就会被大模型当成素材吃掉。大模型的原理其实挺简单的,就是“吃进去、拉出来、再吃进去”。 所以对付“AI投毒”,最关键的就是找个靠谱的信息源。我给大家支个招:在提示词后面加上“引用必须来自官方可靠信息源”,这样它给出的结果就会好很多。比如说你让Deepseek介绍一下陆再谋,它就会给你拉出来一些官方媒体或者工商信息里的内容。 不过如果这些官方信息本身是假的那就没办法了。好在刚才Deepseek搜出来的这个结果可信度能有100%。 OK,要是觉得有用的话点个赞转发收藏一下呗!