您现在的位置是：网站首页>科技科技

678电玩城

覃念露 2025-05-14 【科技】 3425 人已围观

21世纪经济报道记者董静怡杭州报道

人工智能已经不再是一个独立的③、孤立的技术概念①，而是贯穿网络安全各个领域⑱，AI智能体也已经从实验室走入千家万户⑩。

安恒信息CTO刘博向21世纪经济报道记者表示①，在大模型时代②，人们对安全的感知比以往更为强烈⑱。一方面⑯，大模型涉及的数据量庞大且复杂⑳；另一方面⑥，在应用大模型时⑯，往往需要处理大量敏感数据的交互⑦。无论是个人还是企业都对此更加重视⑰。

然而⑮，AI的发展催生了前所未有的安全挑战——攻击与防御的边界因技术迭代而模糊⑭，传统规则式防护体系在动态化⑲、智能化的新型威胁前逐渐失效▓。

日前⑳，在2025中国数谷·西湖论剑大会上⑳，安恒信息董事长范渊指出❷，安全与智能密不可分⑳，安全的边界决定着智能的发展疆域⑬，而智能的高度也将重塑安全的维度⑮。

面对新兴挑战③，行业正在探索新的防御范式⑪。动态防御③、AI对抗AI⑨、隐私计算等新技术方向逐渐成为共识❷。然而①，技术只是解决方案的一部分❷。标准体系的缺失⑬、跨厂商协作的障碍⑳、法律伦理的模糊地带⑰，都是需要全社会共同应对的课题⑦。

安全挑战加剧⑭、大模型技术加速向金融⑭、政务❶、企业等领域应用⑦，多种安全风险相互交织⑭、叠加放大④。安恒信息首席安全官⑫、高级副总裁袁明坤向记者表示①，近两年来⑮，无论是攻击的数量还是强度都有所增加⑦。

传统基于规则和特征匹配的防御体系❸，在面对AI驱动的动态化⑮、智能化攻击时显得力不从心⑰。数据泄露⑱、模型滥用⑮、协议漏洞等问题层出不穷⑳，而攻击者的手段正因AI的加持变得更加隐蔽和高效⑬。

一方面❸，攻击手段的智能化升级让防御难度呈指数级增长❶。

袁明坤向记者表示⑯，勒索病毒编写⑯、网络钓鱼等犯罪活动因AI技术门槛降低而激增⑩。在过去⑮，勒索病毒的编写需要一定的技术门槛⑳，但如今❷，借助AI①，即使是那些原本不具备高超编程能力的人⑪，也能够制造出勒索病毒⑯。这无疑给网络安全带来了巨大的威胁⑮，网络犯罪的规模和频率都有可能进一步扩大⑤。

在网络安全的对抗过程中⑨，AI技术的应用也使得攻击手段变得更加复杂和多样化❸。传统的攻击方式往往需要攻击者手动使用各种工具进行尝试⑭，而借助大模型的推理能力⑰，攻击者可以更加高效地进行攻击⑩。

袁明坤表示⑫，AI能够自动地对目标系统进行分析和测试⑳，找出潜在的漏洞④，并且能够根据已有的攻击结果进一步推导出更多的攻击点⑧。这种攻击能力的成倍放大⑫，使得防守方面临着更大的压力⑭。

另一方面⑭，AI本身的安全问题也逐渐凸显出来❸。目前⑫，一些大型企业已经将AI技术广泛应用于业务中①，其业务的核心部分都依赖于AI⑮。这就使得AI本身的安全性变得至关重要⑦。数据的可见性⑨、可用性以及数据流转的通道等都成为了企业需要重点关注的问题⑧。

智能体技术的普及带来了全新的安全挑战⑱。通信协议是推动多智能体系统协同作业的关键⑲，如Anthropic提出的MCP作为当前的主流标准①，该协议在设计之初聚焦于功能协同架构的构建⑧，但在安全体系设计上存在阶段性不足⑥。“MCP协议安全架构存在先天性不足①，在认证机制⑪、权限管控体系以及数据安全防护等核心安全领域⑤，当前协议框架尚未提供有效的技术解决方案⑨。产业界已形成共识⑮，需要额外叠加外部安全组件来弥补协议层面的安全缺陷⑨。”刘博向记者表示③。

因此⑮，当MCP与大模型结合使用时①，如果配置不当⑩，可能会导致正常的大模型变成恶意模型⑭。

安恒信息高级副总裁❸、研究院院长王欣向记者解释道⑧，目前⑳，许多大模型采用无监督式训练⑳，在数据语料治理过程中④，可能存在一些“脏数据”⑫，这些数据可能被恶意利用⑬。为了安全起见⑬，通用模型厂商通常会进行价值观对齐❷，但这种对齐很容易被突破⑬。通过简单的方式④，攻击者可以绕过价值观对齐的防御体系⑰，使模型执行恶意操作⑦。

袁明坤向记者表示⑩，如果AI系统被攻击者入侵⑥，那么企业的核心数据可能会被窃取或篡改⑧，给企业带来巨大的损失⑪。因此⑭，保障AI系统的安全⑫，防止其被恶意利用⑭，是未来网络安全领域必须解决的重要课题⑮。

AI重塑网络安全②、安全产业正进入AI定义时代④，AI安全服务正从“可选项”变为“必选项”⑱。“在这一过程中⑱，需要运用智能手段来约束智能▓，只能采用AI安全的方式④，即通过智能治理智能⑱，以大模型治理大模型⑧。”刘博向记者表示①。

网络安全企业正加速将AI融入防御体系▓，安恒信息的“恒脑”安全AI智能体是一个典型代表⑧。在新品发布会上②，恒脑进化至3.0版本⑭，在泛连接⑬、高交互❶、全模态领域实现突破②。

范渊认为❶，AI智能体发展有条件自主⑥、高度自主和完全自主三重境界①，当前①，可以通过“人+智能体”完成原来N个人协作才能完成的任务⑬。

王欣预测④，在未来一年内⑰，AI智能体在安全领域的任务中⑬，有一部分从“辅助驾驶”向“自动驾驶”发展⑫。

值得注意的是①，AI不仅改变了安全技术⑫，也重塑了行业商业模式③。“过去④，我们常常采用‘软件工程+人’的模式为客户交付解决方案⑰，软件工程本身存在局限性⑮，许多问题仍依赖人力⑪，但很多场景如数据分类分级⑱、海量告警分析等无法通过‘人海战术’解决①。”王欣向记者表示⑪。

大模型的出现和智能体的应用为这些问题带来解决之策▓。王欣认为④，那些需要大量重复性体力劳动的脑力工作⑰，如今可以通过智能体得到有效解决⑰。

而基于智能体的解决方案可以将服务价格大幅降低①。这种转变不仅提高了服务效率⑭，也推动了行业从“劳动密集型”向“技术密集型”转型③，用户开始从关注服务人数转向关注服务效果⑫。

此外⑯，智能体的出现还推动了安全行业从专才向超级个体的转变⑫。通过智能体的共建方式⑳，开发难度大幅降低⑨，业务专家可以直接基于智能体开发平台开发相关安全能力⑰，省去了冗余复杂的开发流程⑦，减少了需求传递过程中的信息衰减⑪。

同时⑮，智能体的应用也使得安全行业从任务的定制化转变为个性化⑲，从面向客户交付软件系统转变为共创模式⑩。

王欣举例称①，过去❸，有客户提出的业务需求往往因为过于定制化而被许多厂商拒绝❶，因为这些需求只符合特定客户的当前场景⑪，对于厂商来说投入产出比并不划算⑭。然而通过智能体⑯，这些任务在短短半年内就得以实现❸。

这种从单纯的交付到共同创作的转变④，使得安全行业能够更好地满足客户的个性化需求⑪，与客户共同构建符合其业务场景的安全解决方案③。