最近AI整蛊带来不少麻烦,一张假图就能把小区搅得沸沸扬扬,法律和伦理问题该怎么解决呢?先来说说广州番禺这边的事,有个12岁的孩子闲着没事,把自家楼梯、扫把还有一张流浪汉的照片扔进AI生成器里,结果几秒就生成了一张“流浪汉试图闯入家门”的图片。这张图发到业主群里,大家都炸锅了,家长吓得不敢出门。直到有人提醒这是AI生成的假图,大家才松了口气。这种事情不止发生在广州,安徽铜陵也有人拿AI生成的“流浪汉卧坐餐厅”照片发给丈夫,对方信以为真报了警。警方出动排查后发现是恶作剧,浪费了公共资源。这种情况在全国各地都有发生,有些人甚至还被警车追着跑。 其实这个风潮最早是从海外TikTok上传来的。10月上旬,TikTok上出现了“流浪汉闯入家中”的短视频模板,年轻人用Snapchat等工具生成假图给父母看然后录下反应上传平台吸粉。截至10月底,这个话题已经有1600多条视频,最高播放量突破8万。操作简单、效果逼真、情节反转快是这个玩法流行的原因。国内短视频平台也跟着模仿,教程和成品到处都是。记者实测发现,只要上传一张照片、输入提示词就能生成逼真的入侵画面。 当这个风潮扩散到全球后,警方成了最大受害者。美国马萨诸塞州塞勒姆警方发布公告警告人们别再做这种愚蠢又危险的事情了。英国多地警局也接到大量虚假报警电话。更严重的是有些人因此被判刑或罚款:马里兰州一名女子因为伪造入侵图片导致8辆警车出动被捕;俄亥俄州两名未成年人因生成AI图像引发恐慌被少年法庭起诉。北京市大道政通律师事务所合伙人韩鹏律师指出这种事件暴露出AI治理存在漏洞:逼真度高让人分不清真假、大家把它当成娱乐玩具低估了影响、技术滥用和治理滞后并存、青少年缺乏责任意识。所以我们需要加强教育:不仅教会使用还要警示后果;让他们明白恶作剧可能带来邻居的不安和警力消耗甚至刑事责任。 这次事件引发了大家对技术狂欢背后治理问题的思考:我们该怎么应对这种现象?你怎么看呢?