听说2025年昆明有个国家网络安全宣传周，9月21日开幕了，也有一群专家在聊AI这事儿。你猜AI到底是打破网络安全的矛还是守护的盾？中新网记者吴家驹他们也在那边采访了不少人。有个叫胡振泉的360数字安全集团总裁讲了，AI的安全问题复杂得很，跟传统网络安全不一样，像AI生成的内容是不是安全、会不会有幻觉、或者被提示词注入攻击。 他还说，要是AI变成智能体，负责规划任务，结果执行到半路错乱了或者调度出问题，那情况就更麻烦了，传统手段可能搞不定。天融信科技集团的张博也提了一嘴，现在大模型被攻击或者数据泄露，都说明在训练和部署阶段存在漏洞。而且AI还降低了攻击门槛，坏家伙可以用AI来搞破坏，频率和效率都高了不少。 奇安信集团的李虎也说，已经有不少攻击用的AI智能体了，甚至能提供服务。黑客用这个搞事成本低还不可控，现在大模型到处用着，一旦出问题后果不堪设想。 南方电网公司数字化部的禤亮觉得AI得慢慢培养。要是数据出岔子，一方面可能让智能体反应变慢，另一方面还会导致判断出错，这对电网和新型电力系统来说可是致命的。 那怎么应对这些挑战？张博说AI赋能网络安全是个大方向，很多公司都在琢磨把大模型放进设备里联动云服务，搞个智能化体系。胡振泉觉得应该用大模型来管大模型，搞专门负责安全的大模型去监督业务用的那些大模型，发展的时候要守住安全、向善这些原则。 李虎建议建个红域中心管好大模型的训练和微调这些环节，分区管理把风险缩小点。还得盯着提示词和数据这些地方看看。禤亮也强调得有个好的数据基础和高质量的数据集才行，还得有专门的团队盯着 AI 让它往好的方向走。