您现在的位置是：网站首页>人工智能人工智能

森林舞会电玩城下载送金币

孔千萍 2025-05-14 【人工智能】 2246 人已围观

21世纪经济报道记者董静怡杭州报道

人工智能已经不再是一个独立的⑱、孤立的技术概念⑭，而是贯穿网络安全各个领域⑪，AI智能体也已经从实验室走入千家万户⑲。

安恒信息CTO刘博向21世纪经济报道记者表示①，在大模型时代❷，人们对安全的感知比以往更为强烈⑭。一方面⑳，大模型涉及的数据量庞大且复杂⑤；另一方面⑮，在应用大模型时⑳，往往需要处理大量敏感数据的交互①。无论是个人还是企业都对此更加重视⑱。

然而⑥，AI的发展催生了前所未有的安全挑战——攻击与防御的边界因技术迭代而模糊⑦，传统规则式防护体系在动态化⑬、智能化的新型威胁前逐渐失效⑰。

日前⑬，在2025中国数谷·西湖论剑大会上⑫，安恒信息董事长范渊指出❶，安全与智能密不可分❷，安全的边界决定着智能的发展疆域①，而智能的高度也将重塑安全的维度⑰。

面对新兴挑战⑨，行业正在探索新的防御范式④。动态防御⑭、AI对抗AI①、隐私计算等新技术方向逐渐成为共识⑱。然而⑩，技术只是解决方案的一部分❸。标准体系的缺失⑦、跨厂商协作的障碍④、法律伦理的模糊地带⑧，都是需要全社会共同应对的课题⑨。

安全挑战加剧⑨、大模型技术加速向金融④、政务⑱、企业等领域应用⑱，多种安全风险相互交织▓、叠加放大⑮。安恒信息首席安全官③、高级副总裁袁明坤向记者表示③，近两年来⑱，无论是攻击的数量还是强度都有所增加⑯。

传统基于规则和特征匹配的防御体系⑪，在面对AI驱动的动态化⑬、智能化攻击时显得力不从心❶。数据泄露⑧、模型滥用⑳、协议漏洞等问题层出不穷⑥，而攻击者的手段正因AI的加持变得更加隐蔽和高效⑪。

一方面❸，攻击手段的智能化升级让防御难度呈指数级增长⑧。

袁明坤向记者表示⑮，勒索病毒编写②、网络钓鱼等犯罪活动因AI技术门槛降低而激增❶。在过去⑭，勒索病毒的编写需要一定的技术门槛❷，但如今❶，借助AI⑰，即使是那些原本不具备高超编程能力的人①，也能够制造出勒索病毒②。这无疑给网络安全带来了巨大的威胁⑭，网络犯罪的规模和频率都有可能进一步扩大①。

在网络安全的对抗过程中⑱，AI技术的应用也使得攻击手段变得更加复杂和多样化⑪。传统的攻击方式往往需要攻击者手动使用各种工具进行尝试❸，而借助大模型的推理能力⑰，攻击者可以更加高效地进行攻击⑥。

袁明坤表示⑲，AI能够自动地对目标系统进行分析和测试①，找出潜在的漏洞⑤，并且能够根据已有的攻击结果进一步推导出更多的攻击点⑭。这种攻击能力的成倍放大⑪，使得防守方面临着更大的压力⑫。

另一方面④，AI本身的安全问题也逐渐凸显出来③。目前⑫，一些大型企业已经将AI技术广泛应用于业务中❶，其业务的核心部分都依赖于AI⑪。这就使得AI本身的安全性变得至关重要⑯。数据的可见性⑤、可用性以及数据流转的通道等都成为了企业需要重点关注的问题❸。

智能体技术的普及带来了全新的安全挑战⑥。通信协议是推动多智能体系统协同作业的关键③，如Anthropic提出的MCP作为当前的主流标准⑬，该协议在设计之初聚焦于功能协同架构的构建❷，但在安全体系设计上存在阶段性不足⑬。“MCP协议安全架构存在先天性不足⑬，在认证机制⑪、权限管控体系以及数据安全防护等核心安全领域⑭，当前协议框架尚未提供有效的技术解决方案⑪。产业界已形成共识①，需要额外叠加外部安全组件来弥补协议层面的安全缺陷⑥。”刘博向记者表示⑥。

因此③，当MCP与大模型结合使用时⑦，如果配置不当❷，可能会导致正常的大模型变成恶意模型⑤。

安恒信息高级副总裁⑥、研究院院长王欣向记者解释道⑦，目前⑭，许多大模型采用无监督式训练⑭，在数据语料治理过程中①，可能存在一些“脏数据”❸，这些数据可能被恶意利用⑰。为了安全起见③，通用模型厂商通常会进行价值观对齐❸，但这种对齐很容易被突破❶。通过简单的方式⑯，攻击者可以绕过价值观对齐的防御体系▓，使模型执行恶意操作❸。

袁明坤向记者表示❸，如果AI系统被攻击者入侵⑦，那么企业的核心数据可能会被窃取或篡改④，给企业带来巨大的损失②。因此⑨，保障AI系统的安全❶，防止其被恶意利用⑨，是未来网络安全领域必须解决的重要课题▓。

AI重塑网络安全⑫、安全产业正进入AI定义时代⑨，AI安全服务正从“可选项”变为“必选项”❷。“在这一过程中⑭，需要运用智能手段来约束智能⑯，只能采用AI安全的方式③，即通过智能治理智能⑪，以大模型治理大模型⑤。”刘博向记者表示⑬。

网络安全企业正加速将AI融入防御体系❸，安恒信息的“恒脑”安全AI智能体是一个典型代表⑦。在新品发布会上⑦，恒脑进化至3.0版本①，在泛连接⑰、高交互⑨、全模态领域实现突破⑯。

范渊认为❸，AI智能体发展有条件自主①、高度自主和完全自主三重境界③，当前⑧，可以通过“人+智能体”完成原来N个人协作才能完成的任务②。

王欣预测❶，在未来一年内⑨，AI智能体在安全领域的任务中①，有一部分从“辅助驾驶”向“自动驾驶”发展⑬。

值得注意的是⑤，AI不仅改变了安全技术⑭，也重塑了行业商业模式⑤。“过去⑳，我们常常采用‘软件工程+人’的模式为客户交付解决方案③，软件工程本身存在局限性⑤，许多问题仍依赖人力⑤，但很多场景如数据分类分级⑫、海量告警分析等无法通过‘人海战术’解决⑩。”王欣向记者表示⑯。

大模型的出现和智能体的应用为这些问题带来解决之策❷。王欣认为⑤，那些需要大量重复性体力劳动的脑力工作⑦，如今可以通过智能体得到有效解决①。

而基于智能体的解决方案可以将服务价格大幅降低⑤。这种转变不仅提高了服务效率⑦，也推动了行业从“劳动密集型”向“技术密集型”转型⑫，用户开始从关注服务人数转向关注服务效果⑳。

此外⑱，智能体的出现还推动了安全行业从专才向超级个体的转变⑭。通过智能体的共建方式⑲，开发难度大幅降低④，业务专家可以直接基于智能体开发平台开发相关安全能力⑬，省去了冗余复杂的开发流程⑩，减少了需求传递过程中的信息衰减②。

同时⑤，智能体的应用也使得安全行业从任务的定制化转变为个性化⑥，从面向客户交付软件系统转变为共创模式⑳。

王欣举例称⑥，过去⑩，有客户提出的业务需求往往因为过于定制化而被许多厂商拒绝⑩，因为这些需求只符合特定客户的当前场景⑨，对于厂商来说投入产出比并不划算⑬。然而通过智能体③，这些任务在短短半年内就得以实现⑮。

这种从单纯的交付到共同创作的转变①，使得安全行业能够更好地满足客户的个性化需求⑨，与客户共同构建符合其业务场景的安全解决方案⑧。