您现在的位置是：网站首页> 人工智能人工智能

时代电玩城app

姜宛儿 2025-05-14 【人工智能】 1965 人已围观

21世纪经济报道记者董静怡杭州报道

人工智能已经不再是一个独立的⑧、孤立的技术概念⑱，而是贯穿网络安全各个领域▓，AI智能体也已经从实验室走入千家万户②。

安恒信息CTO刘博向21世纪经济报道记者表示⑫，在大模型时代⑧，人们对安全的感知比以往更为强烈⑱。一方面⑭，大模型涉及的数据量庞大且复杂⑯；另一方面⑤，在应用大模型时⑳，往往需要处理大量敏感数据的交互⑦。无论是个人还是企业都对此更加重视③。

然而⑰，AI的发展催生了前所未有的安全挑战——攻击与防御的边界因技术迭代而模糊④，传统规则式防护体系在动态化❶、智能化的新型威胁前逐渐失效⑱。

日前⑪，在2025中国数谷·西湖论剑大会上❸，安恒信息董事长范渊指出⑮，安全与智能密不可分⑩，安全的边界决定着智能的发展疆域⑰，而智能的高度也将重塑安全的维度⑬。

面对新兴挑战⑧，行业正在探索新的防御范式❸。动态防御⑤、AI对抗AI①、隐私计算等新技术方向逐渐成为共识⑭。然而⑯，技术只是解决方案的一部分③。标准体系的缺失⑪、跨厂商协作的障碍③、法律伦理的模糊地带⑱，都是需要全社会共同应对的课题⑱。

安全挑战加剧⑭、大模型技术加速向金融⑭、政务⑥、企业等领域应用❷，多种安全风险相互交织⑳、叠加放大②。安恒信息首席安全官❶、高级副总裁袁明坤向记者表示⑲，近两年来⑯，无论是攻击的数量还是强度都有所增加①。

传统基于规则和特征匹配的防御体系⑰，在面对AI驱动的动态化⑫、智能化攻击时显得力不从心❷。数据泄露⑧、模型滥用⑤、协议漏洞等问题层出不穷▓，而攻击者的手段正因AI的加持变得更加隐蔽和高效⑲。

一方面①，攻击手段的智能化升级让防御难度呈指数级增长❸。

袁明坤向记者表示③，勒索病毒编写⑥、网络钓鱼等犯罪活动因AI技术门槛降低而激增③。在过去⑫，勒索病毒的编写需要一定的技术门槛④，但如今③，借助AI⑮，即使是那些原本不具备高超编程能力的人⑥，也能够制造出勒索病毒⑪。这无疑给网络安全带来了巨大的威胁⑨，网络犯罪的规模和频率都有可能进一步扩大⑳。

在网络安全的对抗过程中⑲，AI技术的应用也使得攻击手段变得更加复杂和多样化⑨。传统的攻击方式往往需要攻击者手动使用各种工具进行尝试⑪，而借助大模型的推理能力⑭，攻击者可以更加高效地进行攻击▓。

袁明坤表示▓，AI能够自动地对目标系统进行分析和测试⑳，找出潜在的漏洞⑱，并且能够根据已有的攻击结果进一步推导出更多的攻击点⑲。这种攻击能力的成倍放大⑮，使得防守方面临着更大的压力⑭。

另一方面❸，AI本身的安全问题也逐渐凸显出来④。目前⑭，一些大型企业已经将AI技术广泛应用于业务中⑬，其业务的核心部分都依赖于AI⑦。这就使得AI本身的安全性变得至关重要②。数据的可见性⑮、可用性以及数据流转的通道等都成为了企业需要重点关注的问题❶。

智能体技术的普及带来了全新的安全挑战⑮。通信协议是推动多智能体系统协同作业的关键⑭，如Anthropic提出的MCP作为当前的主流标准⑫，该协议在设计之初聚焦于功能协同架构的构建❸，但在安全体系设计上存在阶段性不足⑰。“MCP协议安全架构存在先天性不足⑨，在认证机制❷、权限管控体系以及数据安全防护等核心安全领域⑩，当前协议框架尚未提供有效的技术解决方案⑰。产业界已形成共识⑱，需要额外叠加外部安全组件来弥补协议层面的安全缺陷⑲。”刘博向记者表示⑤。

因此❸，当MCP与大模型结合使用时⑳，如果配置不当②，可能会导致正常的大模型变成恶意模型①。

安恒信息高级副总裁⑲、研究院院长王欣向记者解释道⑱，目前⑪，许多大模型采用无监督式训练▓，在数据语料治理过程中③，可能存在一些“脏数据”①，这些数据可能被恶意利用❶。为了安全起见⑭，通用模型厂商通常会进行价值观对齐①，但这种对齐很容易被突破⑨。通过简单的方式⑯，攻击者可以绕过价值观对齐的防御体系⑯，使模型执行恶意操作⑰。

袁明坤向记者表示⑳，如果AI系统被攻击者入侵①，那么企业的核心数据可能会被窃取或篡改③，给企业带来巨大的损失②。因此②，保障AI系统的安全⑧，防止其被恶意利用⑧，是未来网络安全领域必须解决的重要课题▓。

AI重塑网络安全⑦、安全产业正进入AI定义时代⑥，AI安全服务正从“可选项”变为“必选项”②。“在这一过程中⑫，需要运用智能手段来约束智能⑤，只能采用AI安全的方式⑦，即通过智能治理智能⑳，以大模型治理大模型③。”刘博向记者表示▓。

网络安全企业正加速将AI融入防御体系⑨，安恒信息的“恒脑”安全AI智能体是一个典型代表⑭。在新品发布会上⑩，恒脑进化至3.0版本⑳，在泛连接⑨、高交互⑮、全模态领域实现突破⑪。

范渊认为⑳，AI智能体发展有条件自主❷、高度自主和完全自主三重境界⑱，当前⑧，可以通过“人+智能体”完成原来N个人协作才能完成的任务⑭。

王欣预测▓，在未来一年内❶，AI智能体在安全领域的任务中③，有一部分从“辅助驾驶”向“自动驾驶”发展❷。

值得注意的是❶，AI不仅改变了安全技术⑮，也重塑了行业商业模式⑬。“过去⑥，我们常常采用‘软件工程+人’的模式为客户交付解决方案❸，软件工程本身存在局限性⑬，许多问题仍依赖人力⑦，但很多场景如数据分类分级⑭、海量告警分析等无法通过‘人海战术’解决⑩。”王欣向记者表示⑱。

大模型的出现和智能体的应用为这些问题带来解决之策❸。王欣认为❸，那些需要大量重复性体力劳动的脑力工作③，如今可以通过智能体得到有效解决⑫。

而基于智能体的解决方案可以将服务价格大幅降低⑭。这种转变不仅提高了服务效率⑮，也推动了行业从“劳动密集型”向“技术密集型”转型❸，用户开始从关注服务人数转向关注服务效果▓。

此外⑥，智能体的出现还推动了安全行业从专才向超级个体的转变❷。通过智能体的共建方式②，开发难度大幅降低⑫，业务专家可以直接基于智能体开发平台开发相关安全能力⑱，省去了冗余复杂的开发流程⑲，减少了需求传递过程中的信息衰减❸。

同时⑫，智能体的应用也使得安全行业从任务的定制化转变为个性化⑫，从面向客户交付软件系统转变为共创模式⑦。

王欣举例称⑬，过去⑬，有客户提出的业务需求往往因为过于定制化而被许多厂商拒绝⑲，因为这些需求只符合特定客户的当前场景⑳，对于厂商来说投入产出比并不划算⑫。然而通过智能体⑥，这些任务在短短半年内就得以实现❶。

这种从单纯的交付到共同创作的转变⑤，使得安全行业能够更好地满足客户的个性化需求❸，与客户共同构建符合其业务场景的安全解决方案②。