AI安全成焦点，周鸿祎提出“以模制模”应对之策

  近几年，以大模型为代表的人工智能技术迎来爆发式发展，已然成为新一轮科技革命与产业变革的核心驱动力。智能体(AI Agent)作为执行层，能够依托大模型的认知与决策能力，可自主完成复杂任务并实现动态目标适配，其价值正受到越来越广泛的关注。

  但与此同时，人工智能在带来巨大机遇的同时，也引发了一系列新的安全问题，对防护体系构成了考验。

  7月23日，在2025(第二十四届)中国互联网大会期间，360集团创始人、中国互联网协会副理事长周鸿祎就人工智能安全等问题分享了相关看法。他指出，人工智能主要带来了两方面新的挑战：

  其一，人工智能本身存在显著的随机性，其输出结果可能出现偏差。即便智能体设计精良，在重复执行同一任务时，也难以像传统软件那样保持结果的一致性，而是如同人类般存在犯错可能，具体表现为输出幻觉、遭受攻击等问题。由于大模型具备自然语言交互能力，任何人都可通过自然语言与其沟通，甚至采用诱导、操控等方式使其泄露数据。针对这类问题，传统网络安全手段如防火墙、杀毒软件已难以奏效，必须采用“以模制模”的思路，即借助安全大模型，对大模型的输入输出进行监测与分析，并结合知识库、网络搜索及数据库等能力减少幻觉现象。

  其二，人工智能对传统安全体系的另一大挑战在于，大模型及智能体将成为人类的数字伙伴与助手。未来每个人都可能拥有数十个智能体作为助理，从而成为超级个体。但这一趋势同样适用于黑客群体：过去高水平黑客极为稀缺，如今却可将优秀黑客的经验与能力训练为智能体，使其自动规划攻击方案、寻找漏洞并调用各类工具。这使得网络安全对抗从人与人的较量，转变为人类与算法、算力及机器的对抗。对此，仍需秉持“以模制模”理念，将攻防、防御及攻击处置的经验训练为安全专家智能体。

  周鸿祎还提到，对于“在事情发生前就有一套高屋建瓴的安全解决方案”这一观点，他并不认同。他认为，先有信息化、数字化、智能化的发展，到一定阶段，安全这把双刃剑的问题必然会显现。随着安全问题不断暴露，人们积累经验，从工程化方法起步，当经验足够丰富时，解决能力定然会提升。目前并不存在能一招致敌、一劳永逸解决人工智能安全问题的方法。至于未来人工智能智力超过人类、变成硅基生物等问题，当下还未到讨论的时候，否则容易陷入不可证实、不可证伪的争论。

  针对人工智能时代很多工作会被替代这一问题，周鸿祎表示，技术进步必然会淘汰一些不合适的岗位。关键在于主动拥抱人工智能，掌握深度学习，甚至能够引导人工智能，这样的人不会被淘汰。在智能体时代，人的角色需要转变，智能体会取代琐碎、重复、固定流程化的工作，而人要学会规划和管理智能体，协调它们的工作，为其做决定。人们要将能力向这方面迁移，实现角色转变。他认为，未来两年，无论公司是否愿意投资智能体，个人若能搭建起几十人的智能体队伍，学会做智能体的领导，就不会被淘汰。

  写在最后：

  人工智能正以前所未有的速度重塑世界，其潜力与风险如同硬币的两面。面对这场变革，我们既不能因技术的不确定性而止步不前，也不能因短期的便利而忽视潜在的隐患。唯有以动态的思维拥抱变化，以创新的工具应对挑战，让人工智能真正成为推动社会进步的引擎。