启明星辰CEO严望佳:人工智能需要安全

来源:业界供稿    2018-05-18 18:04:53

关键字: 人工智能安全 启明星辰

5月16日,第二届世界智能大会拉开帷幕,启明星辰CEO严望佳在智能科技与网络安全论坛中以《双刃之剑:信息安全与人工智能》为主题做了演讲。

充满人工智能的科技生活会是什么样?

由史蒂文·斯皮尔伯格执导,在两个月前上映的电影《头号玩家》为我们预见未来科技打开了眼界。

但今天,除了天马行空的畅想,还是要回到当下看人工智能应用情况以及其带来的信息安全问题。

5月16日,第二届世界智能大会拉开帷幕,启明星辰CEO严望佳在智能科技与网络安全论坛中以《双刃之剑:信息安全与人工智能》为主题做了演讲。

启明星辰CEO严望佳:人工智能需要安全

前些年可在人机对话中自我学习的人工智能软件“微软小冰”被玩坏,停止服务;这两年大火的特斯拉汽车的自动驾驶技术,在一次次安全事故中降温。

“人工智能将引发安全挑战。面对即将到来的智能时代,我们在安全方面尚未做好准备。”

首先,AI运算结果是由数据、算法、算力这“三要素”相加所得的结果,但现在“三要素”本身存在缺失,会导致最终运算结果的判断失误。

其次,非法的黑客攻击大幅上升。利用算法缺陷使系统产生误判,可攻击算法,通过远程下发恶意指令,可攻击设备。

还有隐私的泄露,越来越多的智能化服务依赖用户画像,用户面临隐私泄露风险,企业面临合规性挑战。

以及对技术的恶意使用。人工智能本身是中性的技术,可以造福人类,也存在被恶意使用、危害人类的风险。

“人工智能与安全是相互促进的关系,两者协同配合才能构建和谐智能+安全生态。”

安全促进人工智能的发展。数据方面,增加数据防泄密、敏感数据保护;算法方面,提出逃逸对抗和提升鲁棒性;应用层面,建立安全隔离和白名单机制;AI软件,漏洞挖掘与修复。

人工智能促进安全的发展。人工智能逐渐成为安全的共性基础技术之一,将人工智能技术放到安全产品、服务与解决方案中,将大大提升安全分析的能力和效率。

“启明星辰自成立起,经历了不同阶段的跨越式自我升华,去年开始,我们迈入三个I阶段,其中一个就是安全的智能(Intelligence)”

I3阶段——安全独立运营(Independence)、安全的互联(Interconnect)、安全的智能(Intelligence)。

启明星辰集团已将人工智能检测技术、人工智能大数据分析技术等技术不断应用到产品和解决方案中,已获得大量的应用案例、经验和集团客户的一致好评。

从现在到未来,集团会持续发挥“安全能量”,直面智能时代的网络安全挑战,让人工智能技术更加安全,让应用人工智能技术的安全产品更高效,为国家、为客户全面提升安全能力。

    扫一扫

    分享文章到微信


    北京第二十六维信息技术有限公司(至顶网)版权所有. 京ICP备15039648号-7 京ICP证161336号京公网安备 11010802021500号
    举报电话:010-62641205-5060 举报邮箱:jubao@zhiding.cn 网上有害信息举报专区:https://www.12377.cn 安全联盟认证