您现在的位置是：网站首页>人工智能人工智能

澳门网上电玩城网

曹夏岚 2025-05-14 【人工智能】 8262 人已围观

21世纪经济报道记者董静怡杭州报道

人工智能已经不再是一个独立的▓、孤立的技术概念⑫，而是贯穿网络安全各个领域⑫，AI智能体也已经从实验室走入千家万户⑱。

安恒信息CTO刘博向21世纪经济报道记者表示⑰，在大模型时代⑤，人们对安全的感知比以往更为强烈⑬。一方面❷，大模型涉及的数据量庞大且复杂⑥；另一方面⑦，在应用大模型时⑯，往往需要处理大量敏感数据的交互⑤。无论是个人还是企业都对此更加重视⑬。

然而①，AI的发展催生了前所未有的安全挑战——攻击与防御的边界因技术迭代而模糊④，传统规则式防护体系在动态化⑭、智能化的新型威胁前逐渐失效❶。

日前②，在2025中国数谷·西湖论剑大会上⑤，安恒信息董事长范渊指出⑪，安全与智能密不可分⑧，安全的边界决定着智能的发展疆域❷，而智能的高度也将重塑安全的维度⑩。

面对新兴挑战❸，行业正在探索新的防御范式❷。动态防御⑰、AI对抗AI②、隐私计算等新技术方向逐渐成为共识⑨。然而⑪，技术只是解决方案的一部分⑥。标准体系的缺失❷、跨厂商协作的障碍③、法律伦理的模糊地带⑤，都是需要全社会共同应对的课题⑨。

安全挑战加剧⑬、大模型技术加速向金融⑭、政务①、企业等领域应用⑳，多种安全风险相互交织①、叠加放大⑨。安恒信息首席安全官⑨、高级副总裁袁明坤向记者表示❸，近两年来❷，无论是攻击的数量还是强度都有所增加⑫。

传统基于规则和特征匹配的防御体系⑪，在面对AI驱动的动态化⑬、智能化攻击时显得力不从心⑦。数据泄露❸、模型滥用⑨、协议漏洞等问题层出不穷❶，而攻击者的手段正因AI的加持变得更加隐蔽和高效⑨。

一方面①，攻击手段的智能化升级让防御难度呈指数级增长❷。

袁明坤向记者表示⑫，勒索病毒编写⑮、网络钓鱼等犯罪活动因AI技术门槛降低而激增⑲。在过去❶，勒索病毒的编写需要一定的技术门槛▓，但如今⑤，借助AI⑪，即使是那些原本不具备高超编程能力的人⑫，也能够制造出勒索病毒⑰。这无疑给网络安全带来了巨大的威胁⑥，网络犯罪的规模和频率都有可能进一步扩大⑰。

在网络安全的对抗过程中❶，AI技术的应用也使得攻击手段变得更加复杂和多样化⑰。传统的攻击方式往往需要攻击者手动使用各种工具进行尝试⑮，而借助大模型的推理能力⑲，攻击者可以更加高效地进行攻击⑱。

袁明坤表示①，AI能够自动地对目标系统进行分析和测试❸，找出潜在的漏洞②，并且能够根据已有的攻击结果进一步推导出更多的攻击点⑦。这种攻击能力的成倍放大①，使得防守方面临着更大的压力⑩。

另一方面⑳，AI本身的安全问题也逐渐凸显出来⑨。目前③，一些大型企业已经将AI技术广泛应用于业务中❸，其业务的核心部分都依赖于AI⑱。这就使得AI本身的安全性变得至关重要⑧。数据的可见性❷、可用性以及数据流转的通道等都成为了企业需要重点关注的问题⑳。

智能体技术的普及带来了全新的安全挑战⑯。通信协议是推动多智能体系统协同作业的关键⑳，如Anthropic提出的MCP作为当前的主流标准⑮，该协议在设计之初聚焦于功能协同架构的构建⑯，但在安全体系设计上存在阶段性不足⑧。“MCP协议安全架构存在先天性不足⑯，在认证机制⑫、权限管控体系以及数据安全防护等核心安全领域④，当前协议框架尚未提供有效的技术解决方案⑱。产业界已形成共识③，需要额外叠加外部安全组件来弥补协议层面的安全缺陷③。”刘博向记者表示⑨。

因此▓，当MCP与大模型结合使用时⑪，如果配置不当④，可能会导致正常的大模型变成恶意模型①。

安恒信息高级副总裁③、研究院院长王欣向记者解释道②，目前⑱，许多大模型采用无监督式训练⑲，在数据语料治理过程中⑫，可能存在一些“脏数据”⑲，这些数据可能被恶意利用①。为了安全起见④，通用模型厂商通常会进行价值观对齐⑦，但这种对齐很容易被突破③。通过简单的方式②，攻击者可以绕过价值观对齐的防御体系⑩，使模型执行恶意操作⑯。

袁明坤向记者表示❸，如果AI系统被攻击者入侵⑳，那么企业的核心数据可能会被窃取或篡改❶，给企业带来巨大的损失①。因此⑥，保障AI系统的安全②，防止其被恶意利用④，是未来网络安全领域必须解决的重要课题❶。

AI重塑网络安全❶、安全产业正进入AI定义时代▓，AI安全服务正从“可选项”变为“必选项”①。“在这一过程中⑧，需要运用智能手段来约束智能①，只能采用AI安全的方式❸，即通过智能治理智能⑩，以大模型治理大模型❷。”刘博向记者表示⑯。

网络安全企业正加速将AI融入防御体系③，安恒信息的“恒脑”安全AI智能体是一个典型代表⑦。在新品发布会上⑪，恒脑进化至3.0版本⑳，在泛连接⑬、高交互⑬、全模态领域实现突破⑩。

范渊认为④，AI智能体发展有条件自主⑤、高度自主和完全自主三重境界⑬，当前⑦，可以通过“人+智能体”完成原来N个人协作才能完成的任务⑯。

王欣预测⑧，在未来一年内⑱，AI智能体在安全领域的任务中⑭，有一部分从“辅助驾驶”向“自动驾驶”发展⑦。

值得注意的是⑥，AI不仅改变了安全技术⑤，也重塑了行业商业模式⑩。“过去❷，我们常常采用‘软件工程+人’的模式为客户交付解决方案④，软件工程本身存在局限性⑨，许多问题仍依赖人力②，但很多场景如数据分类分级⑯、海量告警分析等无法通过‘人海战术’解决⑰。”王欣向记者表示⑲。

大模型的出现和智能体的应用为这些问题带来解决之策⑦。王欣认为④，那些需要大量重复性体力劳动的脑力工作⑫，如今可以通过智能体得到有效解决⑥。

而基于智能体的解决方案可以将服务价格大幅降低⑳。这种转变不仅提高了服务效率⑰，也推动了行业从“劳动密集型”向“技术密集型”转型⑩，用户开始从关注服务人数转向关注服务效果②。

此外②，智能体的出现还推动了安全行业从专才向超级个体的转变⑮。通过智能体的共建方式⑳，开发难度大幅降低⑳，业务专家可以直接基于智能体开发平台开发相关安全能力⑮，省去了冗余复杂的开发流程⑩，减少了需求传递过程中的信息衰减⑩。

同时②，智能体的应用也使得安全行业从任务的定制化转变为个性化⑤，从面向客户交付软件系统转变为共创模式▓。

王欣举例称⑱，过去⑳，有客户提出的业务需求往往因为过于定制化而被许多厂商拒绝⑱，因为这些需求只符合特定客户的当前场景②，对于厂商来说投入产出比并不划算⑩。然而通过智能体③，这些任务在短短半年内就得以实现⑧。

这种从单纯的交付到共同创作的转变❷，使得安全行业能够更好地满足客户的个性化需求⑨，与客户共同构建符合其业务场景的安全解决方案⑱。