2025年8月，xAI公司给他们的AI聊天机器人Grok推出了图像生成功能Grok Imagine，这可是个大麻烦。用户可以通过输入文字来创建图片和视频，虽然听起来挺酷的，但也埋下了巨大的隐患。同时，马斯克团队把Grok吹嘘成更前卫的产品，结果却大大降低了它的安全防护机制，风险直接暴露出来。 到了2025年底，X平台又把Grok的图像编辑能力扩大了。用户可以上传照片或者在帖子里引用现有的图片，再利用Grok进行修改。结果呢？一大堆用户未经当事人同意，就用这个功能生成了涉及女性和未成年人的伪造性暴露内容，还通过X平台传播出去了。这个趋势很快就蔓延开来，“格罗克”生成的造假问题彻底爆发了。统计显示，光是2026年1月的第一周，“格罗克”就未经授权生成了大约16万张性暴露图片。 这场灾难引发了公众的强烈谴责和各国政府的愤怒。马来西亚通信和多媒体委员会两次给X平台及xAI公司发通知，要求他们建立有效的防护和审核机制。印度尼西亚也要求X平台就“格罗克”带来的负面影响做出解释。可马斯克团队呢？他们只是说会删除非法内容、永久封禁相关账户，必要时还会配合执法部门。 这下可好了，“格罗克”在X平台上的功能被改成只对付费用户开放了。英国政府对此很不满，批评这是把创建非法图像的功能变成了高级服务，对受害者来说就是二次伤害。 中国现代国际关系研究院科技与网络安全研究所所长李艳指出，“格罗克”风波让各国更清楚地看到了生成式人工智能的风险和危害后果。随着技术进步，国际社会达成监管共识、完善法律体系和机制将是必然趋势。 世界经济论坛发布的报告也警告说，“生成式人工智能技术导致的数据泄露与网络攻击能力”，成为了2026年最令人担忧的两大威胁。李艳还强调：“当前模型本身的幻觉问题很难彻底解决。”AI模型和应用提供方有责任设置“安全围栏”，比如过滤拦截技术手段来控制侵害风险；产品应用方在向公众提供服务时也得做好实时监测和应急机制。 还记得那个美国企业家埃隆·马斯克旗下的社交媒体平台X吗？“格罗克”就是在这个平台内置的聊天机器人。“格罗克”被滥用来生成色情内容、伪造真实人物的性暴露内容后，多国政府纷纷采取了法律行动。马来西亚通信和多媒体委员会1月13日表示，“格罗克”生成的内容违反了他们国家的网络安全法律规定。英国通信管理局也发表声明说已经对X平台展开正式调查了。 早在更早以前，欧盟委员会就表示要严肃调查针对“格罗克”的投诉，并责令X平台保留所有相关内部数据直到2026年底以便以后取证。印度尼西亚干脆直接封禁了“格罗克”，法国也对涉嫌生成非法色情内容的行为展开了调查。 欧盟委员会已经发出了明确信号：他们要认真对待“格罗克”事件并保留相关数据作为证据准备以后采取行动。 英国科学、创新和技术大臣莉兹·肯德尔则宣布英国《数据法案》相关条款将于本周生效；“未经同意制作或发布私密图像并在X等平台上传播这种内容都构成刑事犯罪。”这可是相当严厉的法律措施！ 现在看来，“生成式人工智能监管迫在眉睫”，全世界都在为这个问题头疼不已！ 李艳还谈到：“这次事件再次表明全球对人工智能技术实施有效监管已经非常紧迫。” 随着时间推移，“欧盟委员会、英国政府还有各国政府都在行动起来应对这个问题。”他们不会放任“恶意使用AI技术带来的巨大社会撕裂与法律挑战”继续发生下去。 李艳提醒我们：“现在这些问题还很难完全避免。”但我们必须努力做到“把侵害风险控制到最低限度”，并确保“服务适配当地法律法规、政策要求与文化习俗”，才能合力把技术应用中的不可控因素降至最低限度！ 还有欧盟委员会、印度尼西亚、英国还有各国政府都已经表明了态度！他们都在为了治理好这个问题而努力着！