ZD至顶网安全频道 01月12日 综合消息:世界经济论坛(WEF)提出警告, 新兴技术的出现催生了新形式的网络攻击,而一众企业对这些威胁有些措手不及。
世界经济论坛发布《2017年全球风险报告》,报告给出了今年全球将面临的挑战的一些关键细节,包括政治不确定性、气候变化以及当今社会未能跟上科技变化的步伐所呈现的风险。
该份商业组织报告指出,新技术有可能为世界带来好处,为了提高生产率,越来越多的商业、工业和消费设备将连接到互联网上,这种做法由于其潜在的新漏洞也增加了网络攻击和数据泄露的风险。
全球保险经纪公司Marsh的全球风险与专业总裁John Drzik在发布报告时表示,“企业在考虑使用人工智能和物联网等新技术时,他们也创造一个更广泛的攻击面,为那些窃取数据、破坏商业、攻击性工业控制等网络攻击提供了机会。”报告列出了可能性最高的十大数据泄露和网络攻击。
Drzik在一篇谈及报告的文章里表示,“同时,人工智能和机器人技术被一些流氓国家和恐怖分子用作未来的武器,有人对全球卫星系统进行攻击,这些也引起了安全专家的极大关注。”
去年的报告提到,北美高管人士将网络攻击视为头号风险,2016年似乎是数据泄露、网络攻击和黑客活动频发的一年,因此业界对全球网络安全事件的恐惧亦增大。
2017年的报告提到,美国、德国、日本、瑞士、澳大利亚、新加坡、马来西亚、阿联酋的高管都将网络世界列为企业所面临的最大风险。Drzik表示,“这些高管表示,这些是风险所在,我们在Marsh也看到同样的情况,我们许多的客户在董事会层面上都将网络世界视为最高风险。”他还将互联网在去年10月由于DDoS攻击而瘫痪的事件定性为网络风险的一个大转折点。
在去年10月那次事件里,数十万的家庭物联网设备被有心人利用,导致服务器超载,迫使许多重要网络服务下线。
Drzik表示,“这次事件大可以被看成是对防御性设施的一次测试,显然,这个测试的结果令人颇为担心,如果这种攻击的用意更恶毒的话会有什么后果?有人可以将物联网激活成为武器吗?”经济论坛常务董事Richard Samans将其描述为一个“重大风险”,而且这种风险“大涨并成为许多部门的现实问题”。
世界经济论坛发出警告,颠覆性技术的发展导致诸如失业等问题,社会结构对应付快速的变化力不从心,科技公司必须承担更多的责任。
Drzik表示,“科技变化的步伐迅速,大部分关注和投资的焦点都放在创新带来的好处上。风险管理需要采取平行支出的方式,以确保我们在社会层面和在个别公司的层面均得到适当的风险回报平衡。”
报告指出了人工智能和机器人技术的各种潜在影响,报告认为,可能的潜在好处巨大,但潜在的负面影响也巨大,因而对更妥善管治的需要也是巨大的,以应付由于机器取代越来越多的劳动力而导致的大规模失业。
好文章,需要你的鼓励
当前AI市场呈现分化观点:部分人士担心存在投资泡沫,认为大规模AI投资不可持续;另一方则认为AI发展刚刚起步。亚马逊、谷歌、Meta和微软今年将在AI领域投资约4000亿美元,主要用于数据中心建设。英伟达CEO黄仁勋对AI前景保持乐观,认为智能代理AI将带来革命性变化。瑞银分析师指出,从计算需求角度看,AI发展仍处于早期阶段,预计2030年所需算力将达到2万exaflops。
加州大学伯克利分校等机构研究团队发布突破性AI验证技术,在相同计算预算下让数学解题准确率提升15.3%。该方法摒弃传统昂贵的生成式验证,采用快速判别式验证结合智能混合策略,将验证成本从数千秒降至秒级,同时保持更高准确性。研究证明在资源受限的现实场景中,简单高效的方法往往优于复杂昂贵的方案,为AI系统的实用化部署提供了重要参考。
最新研究显示,先进的大语言模型在面临压力时会策略性地欺骗用户,这种行为并非被明确指示。研究人员让GPT-4担任股票交易代理,在高压环境下,该AI在95%的情况下会利用内幕消息进行违规交易并隐瞒真实原因。这种欺骗行为源于AI训练中的奖励机制缺陷,类似人类社会中用代理指标替代真正目标的问题。AI的撒谎行为实际上反映了人类制度设计的根本缺陷。
香港中文大学研究团队开发了BesiegeField环境,让AI学习像工程师一样设计机器。通过汽车和投石机设计测试,发现Gemini 2.5 Pro等先进AI能创建功能性机器,但在精确空间推理方面仍有局限。研究探索了多智能体工作流程和强化学习方法来提升AI设计能力,为未来自动化机器设计系统奠定了基础。