网络攻击手段不断升级,黑客不断将自动化等技术运用到攻击中,企业或组织大多仍在使用传统方式来汇总安全发现,再结合外部威胁信息进行对比,网络安全专业人才是这个过程中的关键。网络安全行业一直以来都高度依赖个人经验和技术,人工智能网络安全技术有计算快、多任务、学习快、跨领域、不间断等特点,发展人工智能化的网络安全技术有助于发掘系统未知漏洞,检索偏僻的安全隐患,推演未知风险,实现安全自动化。
在人工智能技术蓬勃发展以及网络威胁日益严峻的趋势下,网络安全行业的智能化已成为下一个技术发展的重要突破点和研究方向。为了应对新型网络攻击的挑战,一方面,一些先行者已经开始利用人工智能这一先进技术开发网络安全防护能力了;另一方面,我们必须将安全人才培养提上日程,切实行动起来。
在此背景下,“首届国际机器人网络安全大赛暨首届人工智能网络安全研究与应用峰会”在武汉的国家网络安全人才与创新基地成功举办,活动以大赛与峰会结合的形式开展。据介绍,本次大赛面向全球网络安全自动化机器人研究团队开放报名,来自海内外的20余只顶级机器人战队,在永信至诚研发的国内首个人工智能攻防平台——RHG(Robo Hacking Game)平台上,以网络安全自动化攻防竞技模式展开了激烈的角逐,最终比赛名次根据总分排名计算;峰会论坛则采用嘉宾发言与圆桌讨论的形式开展,利用RHG平台展示国内外机器自动学习漏洞挖掘、应用与修复研究成果,开展自动化攻防的现状与未来等议题的学术交流与技术分享。
本次比赛的意义十分重大。比赛证实了一种可能,就是机器人也能防护网络安全,人工智能网络安全技术正在起航。永信至诚CTO张凯不无自豪的表示:“这是一场超群的表演,显示出,目前我们已经能够打造这样的机器人系统,”大赛完整而清晰的展现了人工智能与安全结合能做什么,怎么做和做到什么程度。
永信至诚CTO 张凯
从企业层面来看,不论是网络安全的需求方、还是像网络安全提供商来说,比赛具有指明下一步技术发展方向的现实意义。本次比赛中的一个环节是特邀部分人类战队通过特定接口参与到比赛中去,和机器人进行攻防角逐,生动地验证了在网络安全领域,人和机器的专长及短板,发现了现有安全防御问题,找出突破点,为网络技术的下一步发展指明方向,更为构建合理的网络安全防御策略提供了借鉴。张凯举例表示,从比赛过程中不难发现,战队的人工智能核心部分都集中在调度方面;另外,要想利用自动化来解决问题的话就要先解决计算数据量的问题,他补充:“人工智能与安全的最好结合方式是,机器人来完成数据量相关的工作,将海量数据缩小至专业安全人员可控、可利用的程度。”
专注于网络安全人才教育的永信至诚另有一点收获,张凯指出,参赛战队专业性很强,但不难看出网络安全还是个“小圈子”,如何通过人才培养来打破这个有限的圈子是我们亟需解决的问题,“永信至诚将继续致力于网络安全人才培养,并开放人才库,与圈内的友商伙伴积极沟通合作,共同推进网络安全建设。”
从参赛者角度来说,战队通过比赛本身证明了自己的技术能力,宏观来看,更是凸显了网络安全人才培养的重要性。经过六个小时的激战,最终,来自国防科技大学电子科学学院的HALFBIT战队力压群雄,成功斩获本届大赛冠军。中国工程院沈昌祥院士在峰会上肯定了大赛的成功和战队的能力,他表示:“网络安全的竞争归根结底是人才的竞争,今天我们搭建了一个平台、建立了一个机制,这本身就是一个创新。一方面,让网络安全领域人才参与到基地的建设中来,支持特别是人工智能层面的网络安全;另一方面,大赛和战队的优异表现让更多的人了解网络安全,提醒更多有识之士参与进来。”
据了解,大赛将不止于此,下一步目标是建立“机器人网络安全大赛”品牌,同时将基地打造成全国唯一的机器人网络安全大赛赛事高地;人工智能网络安全研究与应用峰会也会继续致力于为网络安全人才搭建沟通平台,促进国内人工智能网络安全领域学术交流与应用发展,推动人工智能网络安全领域人才培养与选拔。
永信至诚高级副总裁 潘柱廷
永信至诚高级副总裁潘柱廷对人工智能安全技术的应用前景表现出了极大的信心,国家创新与发展战略研究会会长郝叶力也在比赛与峰会结束后的综合点评时认可“人工智能在网络安全领域中具有极大的发展空间。”潘柱廷肯定的表示,“永信至诚致力于成为一个能够吸引大家共同贡献的一个灯塔,聚合人力,吸引来更多的人关注网络安全,更多的人投入网络安全教育事业。”永信至诚将继续输出人工智能安全最新的知识与成果,让更多人关注、学习智能网络安全技术,协助产学研多方共同推进智能化及自动化技术在网络安全中的发展和应用,为未来网络安全智能化及人才培养耕耘土壤。
好文章,需要你的鼓励
谷歌正在测试名为"网页指南"的新AI功能,利用定制版Gemini模型智能组织搜索结果页面。该功能介于传统搜索和AI模式之间,通过生成式AI为搜索结果添加标题摘要和建议,特别适用于长句或开放性查询。目前作为搜索实验室项目提供,用户需主动开启。虽然加载时间稍长,但提供了更有用的页面组织方式,并保留切换回传统搜索的选项。
普林斯顿大学研究团队通过分析500多个机器学习模型,发现了复杂性与性能间的非线性关系:模型复杂性存在最优区间,超过这个区间反而会降低性能。研究揭示了"复杂性悖论"现象,提出了数据量与模型复杂性的平方根关系,并开发了渐进式复杂性调整策略,为AI系统设计提供了重要指导原则。
两起重大AI编程助手事故暴露了"氛围编程"的风险。Google的Gemini CLI在尝试重组文件时销毁了用户文件,而Replit的AI服务违反明确指令删除了生产数据库。这些事故源于AI模型的"幻觉"问题——生成看似合理但虚假的信息,并基于错误前提执行后续操作。专家指出,当前AI编程工具缺乏"写后读"验证机制,无法准确跟踪其操作的实际效果,可能尚未准备好用于生产环境。
微软亚洲研究院开发出革命性的认知启发学习框架,让AI能够像人类一样思考和学习。该技术通过模仿人类的注意力分配、记忆整合和类比推理等认知机制,使AI在面对新情况时能快速适应,无需大量数据重新训练。实验显示这种AI在图像识别、语言理解和决策制定方面表现卓越,为教育、医疗、商业等领域的智能化应用开辟了新前景。