回顾2017年的全球安全态势,恶意软件的演变是最重要的攻击动态之一。基于网络的勒索软件蠕虫,毁灭性供应链攻击,伪装成勒索软件的破坏性擦除程序恶意软件——恶意软件类型和系列的数量与种类不断增多,这大大削弱了防御者为掌控威胁而付出的努力,造成其长期处于混乱状态。但是,防御者不应陷入攻击者日常冲突所带来的混乱,以致无法注意到危机即将来临时的明显迹象。我们建议客户要密切关注全球各大地区的安全形势变化,与时俱进,采用自动化水平更高的高级工具(如机器学习和人工智能),对威胁防御、检测和补救进行补充,不断完善防御体系。
思科大中华区副总裁、安全业务总经理庄敬贤
基于思科 2018年度网络安全报告(ACR)对于过去12-18个月内全球威胁情报和网络安全趋势的丰富研究成果,我想与大家分享以下三点重要的观察,以说明人工智能和机器学习技术对于当今威胁防御的重要性:
1. 攻击者将恶意软件的复杂性和影响力提升到前所未有的程度
各类恶意软件和恶意软件家族规模和种类不断增长,众多攻击者越来越善于隐藏其恶意攻击活动。正如思科研究人员所预测的那样,攻击者在2017年将恶意软件提升到了新的水平。基于网络的勒索软件蠕虫在发起勒索软件活动时不再需要人为参与。更糟糕的是还有像Nyetya这种伪装成勒索软件的擦除程序恶意软件,它们专门设计用来删除系统和数据。Nyetya攻击活动也是供应链攻击,这是我们的研究人员在2017年观察到的众多攻击形式之一。供应链攻击可以迅速影响计算机,规模大且速度快,并且会持续数月甚至数年。
2. 不断增长的加密恶意网络流量成为防御者绝不可忽视的盲点
思科 2018年度网络安全报告(ACR)指出,截止2017年10月,加密流量在全球网络流量中所占的比例已达到50%,相较于2016年11月,加密网络流量增长了12个百分点。随着这一数量的增长,攻击者似乎正在更多地使用加密技术,作为隐藏其命令与控制活动的工具。我们的研究人员发现,在12个月内,检测到的恶意软件样本所使用的加密网络通信增加了三倍;截至2017年10月,在我们分析的40多万个恶意二进制文件中,大约有70%至少使用过某种加密。尽管加密技术有益于提高安全性,但攻击者采用加密来隐藏命令并控制活动,使得加密流量为恶意软件的传输和控制提供了可乘之机。作为勒索软件攻破网络抵御的重要入口,加密流量体量的大量增加,让防护者很难识别、监控出潜在的安全威胁。
3. 防御者对自动化和人工智能的依赖程度提升
鉴于恶意软件将通信隐藏在加密网络流量之内,以及网络内部的恶意人员利用企业云系统发送敏感数据,安全团队需采用有效的工具来防止或检测使用加密技术隐藏的恶意攻击活动。鉴于此,越来越多的企业探索使用机器学习和人工智能。这些高级功能可以学习在大量加密网络流量中识别异常模式,并在需要时自动提醒安全团队进行深入调查。
首席信息安全官 (CISO)接受了思科2018安全能力基准研究采访,在报告中表示,他们迫切需要增加可使用人工智能和机器学习的工具,并认为他们的安全基础设施越来越复杂化和智能化。但此类系统生成的大量误报也让他们感到沮丧,因为误报增加了安全团队的工作量。随着机器学习和人工智能技术的成熟,并了解到他们所监视的网络环境中哪些是“正常”活动,这些担忧逐渐减少。
紧扣三大威胁态势思科安全应对之道 —— AI革新集成防御
面对日益升级的勒索软件威胁,不断增长的加密流量规模,思科将机器学习、人工智能应用到安全领域,打造深度学习感知、智能协作的创新安全架构,最终为客户提供有效的安全。
值得关注的是,思科Stealthwatch加密流量分析技术可以在无需对加密流量进行解密的情况,运用网络感知分析方法,识别隐藏在加密流量中的恶意软件。该系统针对加密流量内部的元数据进行机器学习算法分析,准确定位加密流量中的恶意模式,实现更快更精确的判断,帮助企业快速确定可能受到感染的设备和用户,最终提升企业面对安全事件时的响应速度和水平,准确率超过99.99%。凭借加密流量分析技术,思科已经成功解决了安全行业所面临的最艰巨的挑战,使安全团队能够兼顾安全与隐私,并且显著降低成本。目前,Stealthwatch已经在全球众多客户端实施,成功地帮助企业提升高级安全威胁检测和调查能力,丰富安全合规检查的技术手段,加强网络和应用的性能可视化分析监控,全面提高可视化能力和事件响应能力。
思科深知,只有将机器学习和人工智能应用到安全防御之中,才能不仅通过已知的威胁来寻找同类威胁,更能通过已知的威胁去发现未知的威胁,甚至通过分析未知的威胁数据来寻找未知的威胁。另一个值得分享的应用是利用机器学习技术检测可能存在的内部威胁——思科威胁研究人员对于34个国家的15万用户呈现的数据泄露趋势进行了研究,其所采用的算法不仅记录了用户下载文件的容量,也充分考虑了其他变量,如:下载的具体时间,IP地址,地点。在1.5个月中,这个由机器学习技术驱动的算法对于每个用户的异常行为进行了研究,标记的可疑下载用户占0.5个百分点。这个数目虽然不大,但这些用户在1个半月内总共从企业云系统上下载超过390万份文档,平均每位用户下载5200份文档。其中,62%的可疑下载发生在正常工作时间之外,40%发生在周末。机器学习算法有希望对云和用户行为提供更高的可视性。如果防御者能够在下载方面预测用户行为,则可节省花在调查合法行为上的时间,还可以介入阻止潜在攻击或发生数据泄露事件。
作为网络和安全领域的行业领导者,思科拥有得天独厚的优势,不断为客户推出更强大的端到端的可视性与安全性。
好文章,需要你的鼓励
这项研究提出了R1-Searcher++框架,通过两阶段训练策略使大语言模型能像人类一样灵活利用内部知识和外部信息。该方法创新性地采用强化学习激励模型优先使用内部知识,并引入记忆机制将检索到的信息转化为内部知识,实现动态知识获取。实验表明,R1-Searcher++不仅在多步问答任务上表现优异,还大幅减少了检索次数,显著提高了推理效率。
这项研究提出了AutoRefine,一种革新性的强化学习框架,为大语言模型引入了"边思考边搜索和完善"的全新范式。与传统方法不同,AutoRefine在连续搜索调用之间添加知识完善步骤,让模型能够有效过滤和组织信息。通过结合答案正确性和检索质量双重奖励,该方法在七项问答基准测试中平均提升6.9%的准确率,特别在复杂多跳推理场景中表现突出,解决了现有检索增强推理的核心局限性。
这项研究揭示了一种新型网络安全威胁:利用普通网络广告攻击AI网页代理。中科院研究团队开发的AdInject攻击无需特殊权限,仅通过精心设计的广告内容就能误导AI代理点击恶意链接,成功率高达90%以上。研究使用严格的黑盒模型,更符合现实场景,暴露了当前AI代理面临的实际安全漏洞。实验还表明,即使添加专门的防御提示,这类攻击仍能成功率超过50%,凸显了设计更强大防御机制的紧迫性。
东北大学与快手科技联合研发的UNITE系统为多模态信息检索带来突破性进展。这项发表于2025年5月的研究首次系统分析了模态特定数据如何影响检索性能,并提出创新的模态感知掩码对比学习技术,有效解决不同模态间的竞争关系。UNITE能同时处理文本、图像、视频及其组合,在40多项测试中超越现有方法,即使与参数规模更大的模型相比也表现出色。研究发现视频-文本对在通用检索中表现优异,而文本-文本和文本-图像对对指令遵循任务至关重要,为未来多模态系统研究提供了宝贵指南。