无人驾驶真的安全吗？ 人工智能专家细数AI安全隐患

摘要：7月8日在上海举行的无人一期“理解未来”讲座上，美国加州大学伯克利分校计算机系教授Dawn Song分享她在计算机深度学习和安全领域的驾驶研究成果时称，人工智能与网络安全的真的智能专结合还是一个新兴产业，计算安全领域还有很多尚未解决且具有挑战性的安全安全问题需要人们不断去探索和追寻答案。

华夏时报（www.chinatimes.net.cn）记者 公培佳 上海报道

在AlphaGo一步步打败世界围棋冠军、越来越多的细数机器人成为同事之后，人们不禁猜想，隐患人工智能的无人超强大脑会不会最终在全领域战胜人类？面对机器人中的“坏人”，谁才是驾驶网络安全的终极守护者？

并非危言耸听，近年来，真的智能专来势汹汹的安全安全网络勒索病毒再一次把“网络安全”这个词拉回到公众视线中。2016年初发现的人工Petya勒索病毒，最初只是细数利用电子邮件传播，其后不断增强攻击能力，隐患2017年已波及60个国家和地区的无人约30万用户，令数家企业被迫中断业务或停止生产。网络的飞速发展让全世界联系得更紧密，也让每个终端的安全变得更脆弱。

“在AI领域，我们有很大的风险，越来越多的系统是人工智能，受到更多攻击的可能也在增大。”7月8日在上海举行的一期“理解未来”讲座上，美国加州大学伯克利分校计算机系教授Dawn Song分享她在计算机深度学习和安全领域的研究成果时称，人工智能与网络安全的结合还是一个新兴产业，计算安全领域还有很多尚未解决且具有挑战性的问题需要人们不断去探索和追寻答案。

作为当今全球顶尖的人工智能研究专家，Dawn Song在美国生活了20多年，尽管中文可顺利交流，在分享学术成果时还是习惯用英文，她说为了表达一些科学术语用词时“更清楚”。

Dawn Song对人工智能今天巨大的发展感叹不已，她称，“AlphaGo最近打败了人类，ImageNet现在也是非常领先，这是一个计算机识别系统；另外还有深度学习，它已经是促进了我们生活的方方面面的发展，包括产品的研究、医学研究等，比如深度学习可以用来识别乳腺癌细胞中的游丝分裂，同时可以研究基因突变预防疾病，还可以用来改善安全方面的能力，包括人脸识别、欺诈检测以及恶意软件的检测等。”

这次讲座，Dawn Song教授显然不是要详细阐述人“工智能的发展”，此时此刻，她最担忧的是深度学习和AI的另外一面——人工智能与安全。

人工智能遇到黑客袭击的时候是怎样的？之所以讨论这一点，是因为Dawn Song研究发现，每一次互联网技术的提升，都伴随网络攻击的增加。如在互联网开始之初，那个时候总共只有6万台计算机，有一个学生当时制造的第一个病毒叫蠕虫病毒，一下子感染了6万台计算机的1/10；13年后有了另外的一个病毒叫做Code Red，感染了2000台主机，使得全世界的很多电脑受到了攻击；后来又出现了一个病毒叫做Stuxnet，这个蠕虫病毒也叫做超级工厂病毒，是针对工业控制系统编写的破坏性病毒，它相应的攻击性非常强，造成了大量的损害；今年一种叫WannaCry的病毒，则导致了20万台计算机中毒，影响了150个国家。

“互联网还在不断发展，它已经成为我们日常生活中很重要的一部分；同时，互联网的攻击也在不断增加，可以看到，有许多病毒的攻击变得越来越多样化，也越来越严重。”Dawn Song教授称。

除此之外，Dawn Song研究发现，网络上的攻击者也是不断追随新技术的发展脚步，甚至有时候是快于我们技术的发展，AI领域不可避免地存在着很大的风险；加上AI系统越来越强，这也意味着有可能会被我们的攻击者所滥用，结果也会越来越严重。

Dawn Song以眼下风靡全球的无人驾驶汽车为例分析称，无人驾驶汽车在路上行驶，就要去识别路边的路牌才能够决定以什么速度、方向行驶，如果在AI系统世界里，作了一个小小的修改，那么识别出来的结果就会完全不一样。“作为人眼我们能够识别一些区别，但如果是深度学习系统，可能就会犯一些错误，会进行一些错误的分类。”

人工智能目前仍存在着无法预知的漏洞，而微小对抗性的攻击却会把漏洞放大到无限。不过，正如互联网的进步很多都是在打补丁时才跃升的一样，Dawn Song认为，随着人工智能的进步，目前已发现的问题都会得到解决，而AI系统里则会有新的漏洞不断出现，相克相伴。

责任编辑：李明徽；主编：公培佳