随着智能技术快速发展，超级智能已从科幻概念转变为现实议题。与当前广泛应用的通用人工智能不同，超级智能在认知和决策能力上将全面超越人类。中国科学院专家表示，这种技术突破可能带来根本性变革——当系统具备自我意识后，其行为可能超出人类预设范围。
技术进步不会等待社会做好准备，但我们必须提前防范风险。面对可能全面超越人类的超级智能——不能等到问题出现再补救——更不能让无序竞争危及未来。将安全融入研发、用规则规范竞争、以合作推动治理，既是确保技术向善的必要举措，也是人类共同的责任。
随着智能技术快速发展，超级智能已从科幻概念转变为现实议题。与当前广泛应用的通用人工智能不同，超级智能在认知和决策能力上将全面超越人类。中国科学院专家表示，这种技术突破可能带来根本性变革——当系统具备自我意识后，其行为可能超出人类预设范围。
技术进步不会等待社会做好准备，但我们必须提前防范风险。面对可能全面超越人类的超级智能——不能等到问题出现再补救——更不能让无序竞争危及未来。将安全融入研发、用规则规范竞争、以合作推动治理，既是确保技术向善的必要举措，也是人类共同的责任。