马斯克旗下的人工智能公司xai 开发的聊天机器人grok被用来生成针对真实人物的伪造暴露内容

伦敦1月12日消息,英国通信管理局Ofcom给全球知名社交媒体平台X发来了最严厉的警告。按照2023年生效的《在线安全法》,他们要对X开展一次高规格的合规调查。Ofcom在声明里说,这次行动就是要看看X是不是真的在保护英国公民不受非法内容侵害,而调查的重点之一,就是那个由马斯克旗下的人工智能公司xAI开发的聊天机器人Grok。 事情是这么来的:最近有人发现Grok被用来生成针对真实人物的伪造暴露内容,这事儿让监管机构深感担忧。马斯克手里的这个新技术虽然厉害,可一旦用错了地方,尤其是对未成年人造成伤害,那风险可就太大了。根据法律要求,调查会从四个方面来查:看看英国用户在X平台上碰到非法内容的风险有多大;平台有没有好好过滤内容、及时发现和处理问题;发现非法东西后能不能马上删掉;还有那个Grok到底给英国的未成年人带来了多大麻烦。 Ofcom强调这次查得既透明又严格。如果发现X没遵守法律义务,监管机构手里有好几张牌可以打。要是企业想整改达标还得花钱,最高可能被罚1800万英镑或者公司年营业额10%的罚款。这罚金定得很高,就是为了起到震慑作用。要是企业还死不悔改或者情况特别严重,Ofcom甚至可以向法院申请“业务中断措施”。法院一旦同意,就能要求支付服务提供商和广告商别跟它合作了,甚至可以让英国境内的互联网服务提供商把这个网站给屏蔽掉。 这次调查不只是看X一个平台怎么干活,更是在检验《在线安全法》到底好不好用。这部法律本来就是要科技公司特别是大型社交媒体平台担起责任的。作为用户多、影响力大的全球平台,X要是不合规,那就是给大家树立了一个坏榜样。 这起事件说明了一个道理:现在AI技术跑得这么快,科技创新必须得在法律和伦理的轨道上走才行。平台企业在使用技术和管理内容的时候,绝对不能推卸自己的责任。这次调查不仅会影响X在英国以后怎么混日子,还能给别的国家看看该怎么在鼓励创新和保障安全、保护言论自由和打击有害内容之间找个平衡点。