问题——智能系统能力跃升，失误与失控风险同步上升；近年来，智能技术快速发展，应用场景不断拓展，在提升效率的同时，也暴露出内容偏差、歧视性输出、事实错误，以及在高风险决策中“过度自信”等问题。早期曾有聊天机器人在开放网络环境中学习后迅速生成不当言论、被紧急下线的案例，引发业界反思：当系统在真实世界与复杂信息源持续交互时，单靠自动学习与自我优化，难以确保价值对齐与行为可控。一旦进入金融授信、医疗辅助、司法建议、自动驾驶等场景，错误外溢的成本更高、影响更广。
技术进步与安全保障始终是人工智能发展的双重命题。“人在回路”机制的推广，说明了对技术边界的审慎认知，也回应了以人为本的科技取向。在智能化持续深入的背景下，如何构建更科学、高效的人机协同体系，仍有赖于全球产学研各界的持续探索与实践。