2018年7月23日-25日,由中国电子学会主办、至顶网承办的第十届中国云计算大会在北京国家会议中心举办。作为大会的重量级论坛,云计算与大数据安全专题论坛同期召开。
来自学界及一线专家、云计算典型用户等多位重量级嘉宾分享交流了云计算及大数据安全最新技术、解决方案及经验,以应对数字化新形势下的安全挑战。
论坛由中国科学技术大学网络空间安全学院副院长、教授、博导俞能海主持,并分享了《云计算大数据中数据安全与隐私保护思考》的议题。他指出,虽然云安全继承了传统信息安全特点,但更凸显了传统信息安全在数据管理、共享虚拟安全、安全管理等问题,同时改变了传统信息安全服务模式。对于大数据下的隐私保护问题,俞能海提出确保数据安全的三“不”原则:不被滥用、不被泄露、不被篡改;以及保护数据安全的四个基本“权”利:所有权、处置权、财产权、知情权。
微软亚太研发集团法律事务总经理罗立凡以网络安全的全球解决方案为核心主题展开,从数字日内瓦公约、网络安全技术协议(Cybersecurity Tech Accord)和微软云产品Azure Sphere三方面进行了阐述。他分享了微软公司所极力倡导建立的“数字日内瓦公约”,通过分析迫切需要这一公约的原因以及建立公约的关键要素来呼吁社会各方共同承诺保护用户免受国家间网络战争的影响。然后引出现有的技术行业自律协议,倡导与引领行业顶尖的技术公司共同防御网络攻击,为使用网络产品和服务的用户创造更安全的网络空间。
作为国内互联网巨擘,腾讯日常管理超过10W+的终端、每天处理400亿数据以及每年要应对数百万次的钓鱼攻击。腾讯企业IT部安全运营中心总监蔡晨以腾讯自身企业安全管理最佳实践为题,与现场嘉宾分享了在云时代企业网络安全防护的新思路。在他看来,“高可见”、“极速处置”和“云管云控”是腾讯安全管理的三大利器。
阿里云是国内最大的云服务公司,在云上安全方面也进行了诸多实践。阿里云安全研究院院长张瑞芝分享了阿里云的云上安全实践与数据保护。她指出,企业对于安全的认知往往存在误区,产品堆积 = 安全?物理隔离 = 安全?显然不是。企业需要更全面的安全防护架构以应对高级定向攻击,例如预测预防、检测感知、智能化自动化防御、溯源打击等。阿里云为超过100万企业提供安全服务,提供了权威认证 、稳定可靠的世界级网络安全防护。
前万达电商安全信息部总经理林鹏则从企业安全监控角度进行了分享,他从网络层、日志的存储与展示、访问日志(HTTP/HTTPS)&Web服务器日志、主机层等多层面进行安全监控为与会者提供了实战建议。
私有云环境带来IT 资源使用的变化,对云安全提出新的需求。360企业安全集团云安全事业部产品总监王亮从云安全需求分析、云安全运营能力定义的角度分享了360企业安全在云建设中的实践和思考。针对云安全运营的定义,360云安全以英文总结为“PPT”三个要素,第一个P是People,安全意识、安全角色、安全组织。第二个P是Precess,安全事件监控、安全事件发现、安全事件处理。第三个T是Technology,安全平台、安全策略、安全技术。从安全事件的发现到管理、分析、溯源、处置应该形成完整的闭环,利用集中多种安全服务能力的360云安全管理平台做到可视化管理。
会议的最后,青藤云安全COO程度分享了“自适应安全架构的历史和演进”,详细阐释了自适应安全理念的萌芽、发展过程与未来趋势,并介绍了将该理念落地应用的青藤产品。诞生四年来,自适应安全一直是Gartner所定义的网络安全未来核心趋势,其内涵与外延也在不断扩展,表现出了强大的生命力。
好文章,需要你的鼓励
ETH Zürich等机构研究人员提出TrustVLM框架,解决视觉-语言模型预测可信度问题。该方法利用模型中存在的"模态差距",创新性地结合图像到文本和图像到图像的相似度,实现无需重新训练即可大幅提升误分类检测性能。在17个数据集的严格测试中,TrustVLM相比现有方法在关键指标上提升显著,同时改善了零样本分类准确率。此成果为AI系统在自动驾驶、医疗等安全关键领域的可靠部署提供了重要保障。
这项研究提出了个性化安全概念,解决大语言模型对不同用户采用统一安全标准的问题。研究团队创建了PENGUIN基准测试集评估模型在处理高风险场景时的个性化安全能力,并开发了RAISE框架高效获取关键用户信息。实验表明,提供用户背景可使安全分数提高43.2%,而RAISE框架通过平均仅2.7次交互即可提高安全分数31.6%。这一创新方法将AI安全从"一刀切"转向"个性定制",为高风险领域的AI应用提供了新思路。
明尼苏达大学研究团队提出了一种创新方法,通过回合级信誉分配显著提升大语言模型(LLM)智能体的多回合推理能力。传统方法只对整个过程进行评价,而他们的MT-GRPO算法能够精确评估每个决策步骤的价值,就像为每一步提供具体反馈。在维基百科搜索工具使用场景中,该方法实现了100%的工具执行成功率和50%的答案精确匹配率,远超传统方法。这一突破不仅提高了AI在多步骤任务中的表现,也为开发更复杂的AI系统提供了重要思路。
这篇研究介绍了PISCES——一种能精确从大语言模型参数中移除特定概念知识的创新技术。与现有方法不同,PISCES通过解缠器模型识别概念相关特征,直接编辑模型参数,实现了更精准的知识移除。在Gemma和Llama模型上的测试表明,该方法不仅有效降低了目标概念的准确率(低至7.7%),还保持了模型在无关领域的高性能,并显著提高了对"重新学习"的抵抗力。这一突破为AI系统的安全部署和合规使用提供了新的可能性。