科技公司高管警示:过度赋权智能工具或引发系统性安全风险

在最近的开发者问答活动中,OpenAI CEO山姆·奥尔特曼对人工智能应用的安全隐患发出警告。他指出,当前用户过于追求AI带来的效率提升,在缺乏足够安全保障的情况下,轻易赋予智能系统过多控制权,这种趋势可能引发严重问题。

效率与安全并非对立,真正的挑战在于通过制度和技术的结合实现可控的便利;面对AI带来的能力跃迁,仅靠个人自律远远不够,需要组织流程、工程基础和行业规则的全面升级。只有落实权限管理、审计机制和责任划分,才能在创新加速的同时守住数字社会的信任底线。