您现在的位置是：网站首页> 人工智能人工智能

现在电玩城可以有捕鱼机吗

廖凡旋 2025-05-14 【人工智能】 4341 人已围观

21世纪经济报道记者董静怡杭州报道

人工智能已经不再是一个独立的①、孤立的技术概念⑨，而是贯穿网络安全各个领域⑭，AI智能体也已经从实验室走入千家万户⑫。

安恒信息CTO刘博向21世纪经济报道记者表示▓，在大模型时代④，人们对安全的感知比以往更为强烈❷。一方面⑰，大模型涉及的数据量庞大且复杂⑮；另一方面⑦，在应用大模型时⑱，往往需要处理大量敏感数据的交互⑱。无论是个人还是企业都对此更加重视⑤。

然而⑯，AI的发展催生了前所未有的安全挑战——攻击与防御的边界因技术迭代而模糊⑳，传统规则式防护体系在动态化⑥、智能化的新型威胁前逐渐失效❶。

日前⑱，在2025中国数谷·西湖论剑大会上③，安恒信息董事长范渊指出⑭，安全与智能密不可分①，安全的边界决定着智能的发展疆域❸，而智能的高度也将重塑安全的维度⑰。

面对新兴挑战①，行业正在探索新的防御范式⑲。动态防御⑯、AI对抗AI⑩、隐私计算等新技术方向逐渐成为共识⑮。然而⑯，技术只是解决方案的一部分⑥。标准体系的缺失⑪、跨厂商协作的障碍❶、法律伦理的模糊地带④，都是需要全社会共同应对的课题❸。

安全挑战加剧⑲、大模型技术加速向金融②、政务⑮、企业等领域应用⑳，多种安全风险相互交织⑥、叠加放大❶。安恒信息首席安全官❸、高级副总裁袁明坤向记者表示⑰，近两年来❶，无论是攻击的数量还是强度都有所增加⑮。

传统基于规则和特征匹配的防御体系⑫，在面对AI驱动的动态化▓、智能化攻击时显得力不从心⑥。数据泄露❷、模型滥用⑧、协议漏洞等问题层出不穷④，而攻击者的手段正因AI的加持变得更加隐蔽和高效①。

一方面⑯，攻击手段的智能化升级让防御难度呈指数级增长▓。

袁明坤向记者表示⑨，勒索病毒编写③、网络钓鱼等犯罪活动因AI技术门槛降低而激增⑪。在过去⑭，勒索病毒的编写需要一定的技术门槛⑩，但如今⑰，借助AI⑲，即使是那些原本不具备高超编程能力的人⑮，也能够制造出勒索病毒②。这无疑给网络安全带来了巨大的威胁⑤，网络犯罪的规模和频率都有可能进一步扩大⑥。

在网络安全的对抗过程中⑰，AI技术的应用也使得攻击手段变得更加复杂和多样化③。传统的攻击方式往往需要攻击者手动使用各种工具进行尝试❸，而借助大模型的推理能力❷，攻击者可以更加高效地进行攻击⑪。

袁明坤表示⑩，AI能够自动地对目标系统进行分析和测试⑭，找出潜在的漏洞❶，并且能够根据已有的攻击结果进一步推导出更多的攻击点⑬。这种攻击能力的成倍放大①，使得防守方面临着更大的压力⑧。

另一方面①，AI本身的安全问题也逐渐凸显出来⑨。目前⑮，一些大型企业已经将AI技术广泛应用于业务中❶，其业务的核心部分都依赖于AI⑥。这就使得AI本身的安全性变得至关重要❸。数据的可见性⑦、可用性以及数据流转的通道等都成为了企业需要重点关注的问题⑰。

智能体技术的普及带来了全新的安全挑战①。通信协议是推动多智能体系统协同作业的关键④，如Anthropic提出的MCP作为当前的主流标准⑱，该协议在设计之初聚焦于功能协同架构的构建⑰，但在安全体系设计上存在阶段性不足⑳。“MCP协议安全架构存在先天性不足❸，在认证机制⑥、权限管控体系以及数据安全防护等核心安全领域①，当前协议框架尚未提供有效的技术解决方案⑪。产业界已形成共识⑩，需要额外叠加外部安全组件来弥补协议层面的安全缺陷⑨。”刘博向记者表示⑥。

因此⑱，当MCP与大模型结合使用时⑫，如果配置不当⑨，可能会导致正常的大模型变成恶意模型❶。

安恒信息高级副总裁⑰、研究院院长王欣向记者解释道⑧，目前⑳，许多大模型采用无监督式训练⑯，在数据语料治理过程中⑫，可能存在一些“脏数据”⑱，这些数据可能被恶意利用⑭。为了安全起见⑰，通用模型厂商通常会进行价值观对齐⑤，但这种对齐很容易被突破⑬。通过简单的方式①，攻击者可以绕过价值观对齐的防御体系❷，使模型执行恶意操作⑬。

袁明坤向记者表示⑦，如果AI系统被攻击者入侵④，那么企业的核心数据可能会被窃取或篡改⑯，给企业带来巨大的损失⑮。因此⑯，保障AI系统的安全⑭，防止其被恶意利用⑳，是未来网络安全领域必须解决的重要课题⑧。

AI重塑网络安全❸、安全产业正进入AI定义时代⑩，AI安全服务正从“可选项”变为“必选项”⑫。“在这一过程中⑬，需要运用智能手段来约束智能⑲，只能采用AI安全的方式⑫，即通过智能治理智能❷，以大模型治理大模型⑳。”刘博向记者表示⑧。

网络安全企业正加速将AI融入防御体系▓，安恒信息的“恒脑”安全AI智能体是一个典型代表⑧。在新品发布会上②，恒脑进化至3.0版本⑫，在泛连接❸、高交互⑨、全模态领域实现突破▓。

范渊认为⑱，AI智能体发展有条件自主⑬、高度自主和完全自主三重境界⑦，当前⑮，可以通过“人+智能体”完成原来N个人协作才能完成的任务⑩。

王欣预测❸，在未来一年内⑯，AI智能体在安全领域的任务中⑩，有一部分从“辅助驾驶”向“自动驾驶”发展⑩。

值得注意的是▓，AI不仅改变了安全技术❷，也重塑了行业商业模式②。“过去❷，我们常常采用‘软件工程+人’的模式为客户交付解决方案⑬，软件工程本身存在局限性⑧，许多问题仍依赖人力③，但很多场景如数据分类分级②、海量告警分析等无法通过‘人海战术’解决②。”王欣向记者表示❶。

大模型的出现和智能体的应用为这些问题带来解决之策⑲。王欣认为▓，那些需要大量重复性体力劳动的脑力工作⑭，如今可以通过智能体得到有效解决⑪。

而基于智能体的解决方案可以将服务价格大幅降低①。这种转变不仅提高了服务效率③，也推动了行业从“劳动密集型”向“技术密集型”转型⑩，用户开始从关注服务人数转向关注服务效果④。

此外⑪，智能体的出现还推动了安全行业从专才向超级个体的转变❷。通过智能体的共建方式⑦，开发难度大幅降低⑯，业务专家可以直接基于智能体开发平台开发相关安全能力⑩，省去了冗余复杂的开发流程⑮，减少了需求传递过程中的信息衰减①。

同时⑮，智能体的应用也使得安全行业从任务的定制化转变为个性化⑬，从面向客户交付软件系统转变为共创模式⑲。

王欣举例称⑯，过去❶，有客户提出的业务需求往往因为过于定制化而被许多厂商拒绝⑥，因为这些需求只符合特定客户的当前场景⑭，对于厂商来说投入产出比并不划算②。然而通过智能体⑮，这些任务在短短半年内就得以实现⑧。

这种从单纯的交付到共同创作的转变⑲，使得安全行业能够更好地满足客户的个性化需求⑤，与客户共同构建符合其业务场景的安全解决方案⑱。