中国新闻社9月21日通报(记者 吴家驹)人工智能究竟是攻破网络防护的利器，还是维护网络安全的屏障？

最近，2025年国家网络安全宣传周于昆明启动，一些网络安全领域的专业人士在回答中国新闻网提问时，讨论了人工智能为网络安全领域创造的新挑战与新可能。

360数字安全集团总裁胡振泉指出，人工智能领域面临的安全挑战极为错综复杂，这种复杂性显著区别于常规网络威胁，具体表现为：由人工智能生产内容的可靠性、人工智能产生的虚假信息、以及通过指令词操控的攻击行为等。

胡振泉补充说明，一旦人工智能转化为智能体，它将承担大量任务规划工作，而假如由AI智能体规划的作业在执行过程中历经诸多环节，随后出现错位、无序安排的状况，情形会变得更为棘手，这类难题是常规网络安全措施难以应对的。

天融信科技集团助理总裁张博谈到，当前一些大型人工智能系统遭到侵袭，其算法或数据出现外泄，这揭示了这些系统在培养、实施、应用等环节中潜藏着显著的安全隐患。此外，人工智能简化了网络攻击的流程，众多攻击者借助人工智能，以增强攻击的频率、力度和成效。

奇安信集团另一位高管李虎也透露，当前已有众多用于发起攻击的AI程序，并且其中部分已开始面向外界提供业务。黑客团体若借助AI实施入侵，所需开销会显著减少，同时其行为也更难预测。当前大型AI模型的应用范围持续扩大，已经渗透到社会生活的各个层面，倘若AI系统存在安全漏洞，可能会造成极为严重的后果。

南方电网公司数字化部副总经理禤亮认为，人工智能的发展需要循序渐进地引导。在引导期间，一旦数据发生异常，一方面会使人工智能系统的响应能力减弱，另一方面，可能导致其分析结果不够准确，这对电力行业和新型能源体系而言是毁灭性的。

AI时代，如何应对网络安全挑战？

张博谈到，当前人工智能驱动下的网络安全，是行业内的一个关键研究范畴，很多国内外安全机构都在研究人工智能和安全技术的融合应用。比如，将大型模型整合进安全装置，使其能与安全平台和云端安全功能互相配合，构建起一个由大型模型支持、终端和云端共同协作的智能管理架构。

网络安全产品通常出自人工之手，而大型模型的智能水平已超越人类，所以应当“用同类应对同类”，即借助大型模型来应对其自身引发的安全挑战。胡振泉提出，需要设立专门负责防护的大型模型，用以监管执行业务的大型模型，并处理后者在运作期间遭遇的各类安全风险，大型模型的进步须依照“安全、向善、可信、可控”的规范。

李虎认为，应当设立大模型的安全“隔离区”，将大模型的培养、修正、使用等所有步骤，都置于隔离区中心集中监管，随后实施分区管理，逐一控制各个部分，缩小风险范围。此外，我们务必对大模型的指令词、标注资料、知识库信息等，进行监察和核查。

禤亮指出，为避免人工智能在实践过程中产生偏差，必须建立完善的数据管理机制，打造优质的数据资源库。此外，需要组建专门的工作小组，对人工智能进行持续监控，并建立相应的监督体系，确保其能够按照预期目标运行。(完)