腾讯吕一平：安全左移，智能网联安全从研发做起 | CCF-GAIR

年 8 月 7 日，全球人工智能和机器人峰会（ccf-gair ）正式开幕。ccf-gair 峰会由中国计算机学会（ccf）主办，香港中文大学（深圳）、联合承办，鹏城实验室、深圳市人工智能与机器人研究院协办。8月8日，本次峰会智能驾驶专场上，是腾讯产业安全运营部总经理吕一平为与线上线下的会者们带来了一场“安全左移，智能网联安全从研发做起”的精彩报告。吕一平强调，信息安全应该成为智能网联汽车安全管理非常重要的一个部分。吕一平提到，汽车信息安全领域现在还没有很好的测评体系，对车的安全来讲，一个维度是设计安全，整个选型的时候需有必要的安全考量。如果设计阶段就可以考虑更多安全因素的话，就可以规避很多安全问题，而且解决安全问题的成本会比较低。以下是吕一平的演讲全文，进行了不改变原意的编辑：大家如果对我们了解不是很深入的话，电影《速度与激情8》可以给大家更直观的感受，其中很多车辆可以被黑客控制，这就是未来的信息安全。当我们把汽车的控制权交给系统以后，信息安全就给车辆带来了挑战。过去我们分享了很多信息安全对车辆的重要性的观点，今天就不重复了。首先我要明确一个观点：汽车是对质量、品质等把控非常严谨的行业，新技术在汽车上的应用情况一定是技术先行，然后国家相关的规范、标准才紧随其后，最后才是合规性的认证等流程。简言之，技术应用一定是比规范、标准和认证更超前。对信息安全、或者对网络安全来讲，在汽车领域又是一个新领域，因此其技术也会比规范更超前。那么，我们如何把信息安全作为质量控制的一部分纳入质量管理体系里面？我认为信息安全是整车、甚至是智能驾驶的一个体系。刚刚滴滴也提到，在滴滴整个自动驾驶框架里面，信息安全也是很重要的一部分。高度智能化与网联化的高安全需求我今天的演讲主题为什么是 “安全左移”？很多汽车专家都在问同样的问题—如何用更小的代价、更可控的成本和投入来解决信息安全问题、从而确保车联网引入自动驾驶之后是安全的。所以，我今天带来了我们自己的一些观点和大家分享。目前在汽车信息安全领域还没有很好的测评体系，我们再做了大量研究和实践以后总结出了自己的体会和心得：对于汽车的安全来讲，一个维度是设计安全，整个选型的时候要有安全的考量。另一个维度是汽车研发。值得一提的是，现在汽车研发分两个部分，越来越多oem团队做自己软件的代码，以及目前很火的软件定义汽车。无论是国际车厂和国内车厂，他们都成立了软件公司或者软件开发子公司，目前已经形成了这样的趋势，就是tir1的研发工作逐渐转移到oem身上。那么，我们在和他们合作的过程中发现，很多问题和设计相关，也与工程实践相关。如何提升智能网联的设计和工程实践呢？从上图可以看出，如果在设计层面、实践层面做的好的话，车辆的信息安全方面就会更安全一些。更重要的是，安全领域有一个理念，如果设计阶段就可以考虑更多安全因素的话，就可以规避很多安全问题，同时解决安全问题的成本会比较低。对于一辆汽车而言，不管是车端、云端还是移动端，都存在大量入口。以前汽车没有这些问题，因为汽车最开始跟互联网没有任何联系，也没有接口可以跟世界做交互。为什么汽车现在成为了我们的关注点呢？因为现在一辆车上有太多的接口，不管是远距的接口，还是物理的接口，都会跟世界产生联系。比如说从wifi到蓝牙、很多远距的接口和物理的接口，以及通过充电桩进行交互，甚至包括l2、l2+自动驾驶系统，以及现场专家提到的车路协同，目前都跟车有了很多交互。入侵特斯拉引发的几点思考其实，上述这些“点”也成为攻击车辆、让车辆产生信息安全问题的入口。腾讯安全科恩实验室在过去几年通过大量接口，比如在3g、4g网络上和adas上，都证明了这些对外交互的接口可以对车辆信息安全造成影响。例如，我们第一次研究了特斯拉并公布了成果，这也是一系列安全问题造成的结果。因为特斯拉是比较早引入了软件定义汽车架构的oem，其绝大部分代码都是自研，但特斯拉在出现的设计问题偏多。具体包括，在未经通过授权的远程控制当中可以看到浏览器的版本很低，以及系统内核也存在了很多系统漏洞等问题。值得一提的是，ota对固件完整性和安全性的校验是非常重要的，但是特斯拉没有加入这个强校验，导致最后我们可以替换特斯拉车联网关的物件，最终我们可以向特斯拉总线发送各种控制命令，导致了特斯拉的问题。这些问题如果在设计阶段就考虑的话，其实是可以规避的。当然特斯拉有一个好处，他们比较早的考虑到了可以通过设计技术来升级软件，同时他们都是自研大部分软件。我们向特斯拉报告这些问题以后，他们快速的把这些缺陷都弥补了，比如把浏览器升级到了最新、内核也进行了升级，以及在网关ota也进行了代码签名，以此能够保证在任何一个ota的时候有一个强安全校验来保证安全性。在我们安全领域有句俗语，“道高一尺、魔高一丈”。意思是安全圈子里面各有各的能力和手段。因此，我们接下来继续对特斯拉进行深入分析以后，在其代码实现层面上又发现了新的问题，并且发现了特斯拉自己都没有发现的漏洞。特斯拉在网关上虽然增加了签名校验，但是在工程实践上的逻辑是有问题的。更有意思的是，特斯拉在和最大的区别就是，没有考虑到设计层面的问题，到了，其在设计层面已经做的非常好了，但是在工程实践上又有小问题出现。，特斯拉的整体能力与相比又有了很大的进步。现在他们是不仅在安全设计角度已经做的很好，在工程实践角度也做得很好，这是值得中国汽车从业人员参考的。总结可以发现，一方面是软件定义汽车的比重越来越高，另一方面是随着自动驾驶体系的引入，当真正要把驾驶决策交给系统的时候，期待的是它要比人更安全。但如果信息安全没有做好的话，不一定会比人的决策更安全。我们做了一个和自动驾驶相关的研究，如果自动驾驶系统出现问题的话，会有什么危害？看了视频之后大家就有比较直观的感觉，里面涉及两类问题，一类是自动驾驶与人工智能算法对抗，另一类是车道识别。当然特斯拉也有炫技部分，其中前置摄像头可以感知车道线，此外特斯拉全视觉的高级辅助驾驶方案没有涉及到毫米波雷达、激光雷达等传感器。不过，我们研究了他们的算法和神经网络以后，在地面上布置了几个干扰点，就可以引领他们进入错误的车道。这也涉及到人工智能算法决策的对抗技术。日前，一辆特斯拉model 3在台湾高速公路上直接撞向了一辆侧翻在地的厢式货车。事故发生当时前方的白色卡车是横向插入特斯拉所在车道。事故发生前，这辆特斯拉model 3开启了自动辅助驾驶，但驾驶员没有专注前方道路，因此造成事故发生。也就是说，特斯拉自动驾驶的传感器并没有发现前方有一辆侧翻的货车。通过对特斯拉的研究发现，在安全领域又有一个新的攻击角度，就是特斯拉上面的ape模块，这本身是跟互联网发生交互的。因为车辆是联网的，如果我们把自动驾驶的角色搞定之后，通过一个游戏机的手柄就可以控制车辆。那么，我们在算法层面上如何更安全、又如何规避更多的样本对抗问题？如何保证自动驾驶系统安全可以做的更好？当我们把这些问题报给特斯拉以后，比如系统安全的问题，特斯拉很快给了回应，称很好解决。在我们报告问题一个月之后，特斯拉官网就做了调整，他们就自动驾驶算法、样本对抗修复的过程与我们进行了沟通。与此同时，特斯拉也给了一种说法，启动l2级自动驾驶时，驾驶员的手不能脱离方向盘，要高度保持关注度。当然，这是他们看到我们报告的问题之后进行的策略调整。智能网联汽车的安全问题当自动驾驶引入以后，特别是算法层面的问题，其修复成本和代价会变高。因为，调整算法意味着要重新采集数据、重新做数据训练、重新做仿真、路测，最后再做验证算法。刚才滴滴也提到了安全问题，但是他们关注的是行驶安全，我们把驾驶交给系统以后，对算法进行任何的调整，都要进行大量的实践。所以，在自动驾驶系统设计阶段，安全性的考量会变的更加重要，如果在设计阶段我们不去考虑这些问题，应用之后再做修复和调整的话，代价会比系统级带来的安全问题更高。对于智能网联汽车而言，常见的问题有： 如上图所示，越往左边，整个设计架构能够解决的问题，大家在设计的时候就尽量要考虑这些问题、并且解决掉。右边的是比较困难的，可以选择在工程实践阶段解决这些问题。简言之，在设计方面解决的问题越多，成本就会越低。如果在设计层面把安全做好，对于自动驾驶而言就是原生安全。 对于汽车而言，是一个碎片化非常严重的行业。面对价格体系千差万别的汽车行业，要把重点要放在人身安全上。那么，如何保证人身安全？目前的自动驾驶汽车操作系统不统一，硬件也不统一，整个供应链也处于非常碎片化、甚至非常复杂的阶段。此外，它不可能像pc和移动一样有通用的操作系统。在我们看来，如果在设计阶段，自动驾驶系统本身安全性做的很好的话，就可以解决该问题。针对上述问题，如何应对和实践就变得非常重要。自动驾驶信息安全问题要如何解决首先，在研发阶段引入更多的工具来解决这个问题，该措施在互联网领域已经使用很多了，比如可以通过监控来解决这个问题。未来，自动驾驶算法的研发和迭代的速度与原来都会不同，包括ota功能引入以后，很多软件迭代的速度也会越来越快。所以从安全角度来讲，需要考虑当原来传统的v  model逐步转向快速迭代的软件定义汽车的时候，如何在研发过程当中考虑到安全实践是非常重要的。其实，我们也有一些实践方法来保证软件快速迭代当中的安全。但是汽车行业有自己的特殊性，很多方法需要在汽车行业里面做深入的实践，同时要契合汽车行业的实际情况。腾讯作为汽车快速数字化转型的助手，有以下建议：人的层面：先做到“有专门团队负责信息安全”，再考虑“信息安全是每个人的责任”；找专业的人做专业的事情；技术层面：将pc、、移动端已经成熟的完全技术、结合具体业务场景定制、按优先级顺序应用到自能网联中；选择合适的自动化工具，应用到安全开发流程中。流程层面：安全左移，大多数安全隐患可以在需求设计阶段层面解决，低成本高回报；通过测试验证需求是否满足，发现实现安全问题。总之，强调一个观点就是信息安全应该成为智能网联汽车安全管理非常重要的一个部分。