积极防范人工智能带来的安全新挑战
人工智能正日益成为新质生产力的重要要素和核心驱动力，推动生产方式和生产关系发生深刻变革。当前，一系列人工智能交叉领域的重大突破正在重新定义人类社会的数据交互、多模态生成、智能制造、信息连接和智算资源范式。以VisionPro为代表的空间计算、以Sora为代表的生成式人工智能、以Figure01为代表的具身机器人、以Starlink为代表的天地一体化网络和以GB200为代表的算力基础设施，都昭示着以人工智能为代表的战略性新兴科技产业集群对传统生产力和生产关系格局的重塑已成为不可逆转的趋势。人工智能新质生产力急速崛起，数字技术与实体经济加速融合，智能化发展成为社会共识。
人工智能技术的广泛应用，在促进数字社会发展的同时，也为网络攻击带来了新的途径和手段，并引发一系列亟待应对的安全挑战，比如，“奶奶漏洞”可以绕过人工智能伦理提示词攻击、GPU算力芯片可被侧信道攻击、大模型深度伪造诈骗、生成式人工智能生成虚假新闻等，这些网络安全事件都暴露出人工智能安全问题的新变化。导致网络攻击加剧主要有以下三方面原因：一是人工智能赋能网络攻击手段升级。网络攻防技术呈现自动化、智能化、体系化快速演进等趋势，网络攻击更加隐蔽高效；二是人工智能系统自身安全挑战凸显。人工智能系统自身也面临数据中毒、模型窃取、算法歧视等诸多安全风险，网络攻击更加多变难溯；三是人工智能引发的伦理与社会风险加剧。人工智能误判、滥用、失控、操纵等引发的连锁反应极可能导致灾难性后果，网络攻击更加未知。
人工智能发展带来的网络安全新挑战不容忽视，既有技术层面的攻防对抗，也有系统自身的脆弱性，更有深层次的伦理困境。如何筑牢人工智能安全防线，维护人工智能健康发展，事关国家安全、经济运行和社会稳定大局。
人工智能快速发展将使未来数字世界具有时空超越性和快速演进性两大新特征，目前已有的伴生性网络安全防护已无法有效解决网络攻击加剧的新挑战，亟须加快推动人工智能安全屏障的建设。一是坚持系统思维方式，从国家发展战略全局审视新兴安全挑战，注重人工智能安全韧性风险评估，提升战略威胁预知能力。二是提出新生网络安全理念，由伴生防护向内生防御至新生防范转变，强化主动纵深防御体系。三是凝聚创新联合生态，汇聚交叉科学战略专家、技术团队和产业力量，集中攻研人工智能、数字孪生、网络安全等关键技术，形成国家战略科技新力量。四是建设关键数字基础设施，优先面向人工智能+产业数字化新场景，加快开展人工智能+先行先试试验平台能力建设，提高人工智能安全水平。
