8月29日,2018网络安全分析与情报大会在北京召开。网络安全分析与情报大会是中国威胁情报行业规模最大的的国际性行业盛会,由北京微步在线科技有限公司主办。微步在线是中国威胁情报行业的先行和领军者,也是全球权威信息技术研究机构Gartner发布的《2017全球威胁情报市场指南》中唯一入选的中国公司。
随着互联网和云计算在全球企业生产、办公环境中的普及,企业信息安全面临着边界模糊、环境复杂、威胁多样化等多方挑战;国家等保要求和《网络安全法》令企业更为重视网络安全合规、数据保护和业务安全;企业自身的数字化转型也要求信息安全同步跟上,知己知彼的下一代安全中,威胁情报将起到至关重要的驱动作用。因此,微步在线连续两年主办网络安全分析与情报大会,秉承着中立、客观、开放的原则,邀请来自政府机关、金融、互联网、安全等各个领域的一线安全专家,分享企业信息安全和威胁分析研究成果和落地实战案例。2018年大会的主题为“聚焦威胁,情报驱动”,来自中国人民银行、公安部、中国农业银行、中信建投证券、阿里巴巴、腾讯、京东、Group-IB、华泰证券、VIPKID、Splunk、Palo Alto Networks、微步在线等机构和公司的十四位专家同台分享,畅谈企业信息安全建设与威胁分析的发展趋势,对网络防护与威胁情报驱动的新一代网络安全技术进行多点发散的深度剖析。
会上,多位专家分享了现阶段网络安全防护的重点和威胁情报的需求与应用图景。在当今网络环境下,要如何建立信息安全体系?来自中国人民银行的吕毅认为,应当多方考虑、评估信息安全的价值,从而进行价值的落地和体系的建设,重要的是要让风险被充分认识,并凭借对风险的处置能力和业务的保障力取得更多信任。来自中国农业银行的李强则提出,企业信息安全的建设要与业务相配套,确立安全目标和安全总体模式,建立流程标准、定期运行检查。信息安全管理的对象应当分为四大类:业务、应用的建设和运行、IT基础设施、实体安全。
而在威胁情报的应用上,多名专家不约而同地表示,威胁情报能够增加信息覆盖的维度,让平面的信息变得立体可见,应用威胁情报就是知己知彼的过程。而威胁情报可以帮助企业加速对行业中新型威胁的布防速度和能力,因此威胁情报应当体现出高效、准确、具有可执行性等特性,此外,有了威胁情报后,还应当以强力的运营团队与之配合。
微步在线CEO薛锋认为,当今时代大数据、人工智能和云计算等新技术应当在网络安全中充分发挥作用,微步在线已经在云端利用大量的计算资源和数据库建立起千亿级别的威胁图谱,通过数据关联分析来更快更准地发现未知威胁;识别威胁后,应当佐以运营能力、分析能力和适当的工具。薛锋建议企业利用新一代网络安全技术,建立真正持续和全面的威胁监控能力。
好文章,需要你的鼓励
ETH Zürich等机构研究人员提出TrustVLM框架,解决视觉-语言模型预测可信度问题。该方法利用模型中存在的"模态差距",创新性地结合图像到文本和图像到图像的相似度,实现无需重新训练即可大幅提升误分类检测性能。在17个数据集的严格测试中,TrustVLM相比现有方法在关键指标上提升显著,同时改善了零样本分类准确率。此成果为AI系统在自动驾驶、医疗等安全关键领域的可靠部署提供了重要保障。
这项研究提出了个性化安全概念,解决大语言模型对不同用户采用统一安全标准的问题。研究团队创建了PENGUIN基准测试集评估模型在处理高风险场景时的个性化安全能力,并开发了RAISE框架高效获取关键用户信息。实验表明,提供用户背景可使安全分数提高43.2%,而RAISE框架通过平均仅2.7次交互即可提高安全分数31.6%。这一创新方法将AI安全从"一刀切"转向"个性定制",为高风险领域的AI应用提供了新思路。
明尼苏达大学研究团队提出了一种创新方法,通过回合级信誉分配显著提升大语言模型(LLM)智能体的多回合推理能力。传统方法只对整个过程进行评价,而他们的MT-GRPO算法能够精确评估每个决策步骤的价值,就像为每一步提供具体反馈。在维基百科搜索工具使用场景中,该方法实现了100%的工具执行成功率和50%的答案精确匹配率,远超传统方法。这一突破不仅提高了AI在多步骤任务中的表现,也为开发更复杂的AI系统提供了重要思路。
这篇研究介绍了PISCES——一种能精确从大语言模型参数中移除特定概念知识的创新技术。与现有方法不同,PISCES通过解缠器模型识别概念相关特征,直接编辑模型参数,实现了更精准的知识移除。在Gemma和Llama模型上的测试表明,该方法不仅有效降低了目标概念的准确率(低至7.7%),还保持了模型在无关领域的高性能,并显著提高了对"重新学习"的抵抗力。这一突破为AI系统的安全部署和合规使用提供了新的可能性。