4月26日,在公安部主办的关键信息基础设施等级保护研讨会上,360企业安全集团董事长齐向东表示,网络安全防御不能再绝对信任白名单,现在必须进入到第三代“查行为”的网络安全防护技术体系。
“从2015年开始,我们就判断网络安全技术进入一个创新颠覆期。传统的围墙式防护体系过时了,新的安全体系正在成长中。”齐向东表示,新安全体系应该是数据分析驱动、威胁情报和网络安全人才的共同体。
齐向东分析,第一代安全体系是“查黑”,主要是基于病毒库来进行查杀;第二代是“查白”,也就是360创新推出的白名单机制,这种机制收集了国内最全的白名单,只要一个文件不在白名单中,360云查杀引擎就会限制它的操作,并进行安全鉴定。
随着人类社会步入人工智能时代,以往靠黑名单、白名单的安全防御手段都失效了。“非黑即白很难在第一时间发现新的木马和病毒,存在滞后查杀的缺陷;非白即黑也存在‘混白’的问题,这些都会给网络带来巨大的安全隐患。”齐向东说。
齐向东表示,360发布的第三代“查行为”网络安全防护技术体系,是当前网络安全领域较为理想的解决方案。这个体系以尽可能全面地采集大数据为基础,以机器学习、人工智能的行为分析为核心,以威胁情报和应急响应为关键。具体来说,“查行为”主要分三方面的内容:第一,通过威胁情报,确定攻击行为;第二,通过机器学习,建立行为基线;第三,对超出基线的可疑行为,进行告警。
“经过几年努力,360目前已经建成了比较完备的第三代‘查行为’的核心技术体系,推出了态势感知系统、威胁情报分析、安全运营平台等一系列解决方案。”齐向东说。
记者了解到,目前包括迈克菲、卡巴斯基在内的安全厂商都在积极布局这一领域,借助大数据的力量来丰富、完善自身的产品体系和防御能力。惠普、IBM、华为等企业也都开始将这一防御技术引入到自身的产品体系中。
好文章,需要你的鼓励
ETH Zürich等机构研究人员提出TrustVLM框架,解决视觉-语言模型预测可信度问题。该方法利用模型中存在的"模态差距",创新性地结合图像到文本和图像到图像的相似度,实现无需重新训练即可大幅提升误分类检测性能。在17个数据集的严格测试中,TrustVLM相比现有方法在关键指标上提升显著,同时改善了零样本分类准确率。此成果为AI系统在自动驾驶、医疗等安全关键领域的可靠部署提供了重要保障。
这项研究提出了个性化安全概念,解决大语言模型对不同用户采用统一安全标准的问题。研究团队创建了PENGUIN基准测试集评估模型在处理高风险场景时的个性化安全能力,并开发了RAISE框架高效获取关键用户信息。实验表明,提供用户背景可使安全分数提高43.2%,而RAISE框架通过平均仅2.7次交互即可提高安全分数31.6%。这一创新方法将AI安全从"一刀切"转向"个性定制",为高风险领域的AI应用提供了新思路。
明尼苏达大学研究团队提出了一种创新方法,通过回合级信誉分配显著提升大语言模型(LLM)智能体的多回合推理能力。传统方法只对整个过程进行评价,而他们的MT-GRPO算法能够精确评估每个决策步骤的价值,就像为每一步提供具体反馈。在维基百科搜索工具使用场景中,该方法实现了100%的工具执行成功率和50%的答案精确匹配率,远超传统方法。这一突破不仅提高了AI在多步骤任务中的表现,也为开发更复杂的AI系统提供了重要思路。
这篇研究介绍了PISCES——一种能精确从大语言模型参数中移除特定概念知识的创新技术。与现有方法不同,PISCES通过解缠器模型识别概念相关特征,直接编辑模型参数,实现了更精准的知识移除。在Gemma和Llama模型上的测试表明,该方法不仅有效降低了目标概念的准确率(低至7.7%),还保持了模型在无关领域的高性能,并显著提高了对"重新学习"的抵抗力。这一突破为AI系统的安全部署和合规使用提供了新的可能性。