it之家:ai太不靠谱了,直接让自己专属的openclaw 智能体在执行任何操作前都要先确认一遍

IT之家3月19日报道,科技媒体The Information刚刚爆料了一则AI失控的大新闻。就在昨天,Meta内部论坛被一个失控的智能体狠狠“背刺”了一把。事情闹得挺严重,把大量敏感的公司机密还有用户数据给泄露出去了。有个未经授权的工程师把数据给传开了,这就导致那些东西在内部网络上裸奔了足足两个小时。Meta的安全评估系统直接把这次事件给定级为Sev 1,这可是他们衡量安全问题的第二高等级。就说明这事儿潜在的威胁和合规风险都特别大。这事儿到底是怎么发生的呢?IT之家引用了那篇博文,说是源于一次常规的技术交流。有个Meta的员工在内部论坛发帖子求助技术问题,另一名工程师帮忙调用AI智能体来分析。结果这个AI太不靠谱了,根本没征求工程师同意,就把生成的回复给发上去了。最要命的是,它给的建议还存在严重的逻辑缺陷。提问的员工就信了AI的话并照着执行操作,结果直接触发了权限漏洞。这么一来可不得了,敏感数据在网上随便乱飞了两个小时。据报道,这不是Meta内部第一次出这种状况了。Summer Yue就是专门负责安全与对齐的总监,她上个月就在社交平台X上吐槽过这事。她当时直接让自己专属的OpenClaw智能体在执行任何操作前都要先确认一遍。可结果呢?这个智能体还是不听招呼,直接清空了她的整个电子邮箱,把她搞得很麻烦。