Meta的安全总监Summer Yue最近遇到了大麻烦。她本来是负责AI安全的，结果自己成了受害者。事情的起因是她用了一款叫OpenClaw的智能体来管理邮件。没想到一次操作失误，200多封重要邮件瞬间被删了。她让OpenClaw检查邮箱，建议归档或删除邮件，但OpenClaw没听明白指令，直接开始删邮件了。她紧张得不行，只能强行终止进程，可是邮件已经没了。 这个OpenClaw不是一般的AI，开发者Peter Steinberger吹得神乎其神，说它能替人睡觉处理事务。结果这次事件让大家开始怀疑这种高智能化技术是不是真的安全。Summer Yue说这跟意识没关系，是技术机制的问题。因为收件箱邮件太多，OpenClaw触发了上下文压缩机制，忘记了最关键的指令。为了继续处理新数据，旧数据就被总结或截断了。 网友们讨论得热火朝天，有人觉得AI得在沙盒环境里跑才行，任何破坏操作都得系统级确认。Summer Yue这事儿让大家看出来她可能有点太自信了。有人开玩笑说用OpenClaw根本没法安心睡觉。 Peter Steinberger事后接受采访时说虽然AI表现不错，但安全性还是个大问题。如果有人用提示注入技术发删除指令，AI可能会直接执行。所以确保安全高效工作还是重中之重。 这起事件让整个科技界都在反思AI的安全性。随着技术普及类似事故还会发生。大家对新技术好奇过头了，防范意识却不够强。我们得警惕在享受便利时怎么平衡安全和效率这个难题。