启明星辰CEO严望佳：人工智能需要安全

充满人工智能的科技生活会是什么样？

由史蒂文·斯皮尔伯格执导，在两个月前上映的电影《头号玩家》为我们预见未来科技打开了眼界。

但今天，除了天马行空的畅想，还是要回到当下看人工智能应用情况以及其带来的信息安全问题。

5月16日，第二届世界智能大会拉开帷幕，启明星辰CEO严望佳在智能科技与网络安全论坛中以《双刃之剑：信息安全与人工智能》为主题做了演讲。

前些年可在人机对话中自我学习的人工智能软件“微软小冰”被玩坏，停止服务；这两年大火的特斯拉汽车的自动驾驶技术，在一次次安全事故中降温。

“人工智能将引发安全挑战。面对即将到来的智能时代，我们在安全方面尚未做好准备。”

首先，AI运算结果是由数据、算法、算力这“三要素”相加所得的结果，但现在“三要素”本身存在缺失，会导致最终运算结果的判断失误。

其次，非法的黑客攻击大幅上升。利用算法缺陷使系统产生误判，可攻击算法，通过远程下发恶意指令，可攻击设备。

还有隐私的泄露，越来越多的智能化服务依赖用户画像，用户面临隐私泄露风险，企业面临合规性挑战。

以及对技术的恶意使用。人工智能本身是中性的技术，可以造福人类，也存在被恶意使用、危害人类的风险。

“人工智能与安全是相互促进的关系，两者协同配合才能构建和谐智能+安全生态。”

安全促进人工智能的发展。数据方面，增加数据防泄密、敏感数据保护；算法方面，提出逃逸对抗和提升鲁棒性；应用层面，建立安全隔离和白名单机制；AI软件，漏洞挖掘与修复。

人工智能促进安全的发展。人工智能逐渐成为安全的共性基础技术之一，将人工智能技术放到安全产品、服务与解决方案中，将大大提升安全分析的能力和效率。

“启明星辰自成立起，经历了不同阶段的跨越式自我升华，去年开始，我们迈入三个I阶段，其中一个就是安全的智能（Intelligence）”

I3阶段——安全独立运营（Independence）、安全的互联（Interconnect）、安全的智能（Intelligence）。

启明星辰集团已将人工智能检测技术、人工智能大数据分析技术等技术不断应用到产品和解决方案中，已获得大量的应用案例、经验和集团客户的一致好评。

从现在到未来，集团会持续发挥“安全能量”，直面智能时代的网络安全挑战，让人工智能技术更加安全，让应用人工智能技术的安全产品更高效，为国家、为客户全面提升安全能力。