有一个小故事或许能解开他们的疑惑:
当时伦敦有一个持续了几十年的过程，汽车取代了马车。伦敦的10万名马车夫整夜忧心忡忡，在街上游行，担心失去工作。最后大部分马车夫都成了出租车司机，世界末日也没有到来。
这是1911年伦敦的场景，马车和汽车混杂在一起。看起来挺科幻的。(点击放大)
对于人工智能威胁论，我的判断一直是:“担心被人工智能抢饭碗的人，会先被别人抢饭碗;担心被人工智能奴役的人，首先会成为别人的附庸。”(我在另一篇文章《百度用人工智能取代钢铁质检人员。下一个失业的会是谁?”“里面，举了一个详细的例子，可以戳蓝字看)
我今天要讨论的是另一个更实际的恐惧:人工智能本身会不会存在安全问题?
2017年，百度李主任乘坐无人车到五环，因违反交通法规收到一张罚单。虽然后来证明“实线平行”“不打转向灯”的神奇操作是人类司机的行为，但还是让不少吃瓜群众觉得有些惊心动魄。
在未来，人工智能将帮助我驾驶和治疗疾病。如果黑客入侵做了什么“傻事”，后果会相当严重。就开个脑洞:
如果自动驾驶的“大脑”被入侵，四环上瞬间多出了一千匹“野马”，其中的乘客将上演“速8”的戏码。
如果是自动操作的“机器人医生”出了故障，他本来打算做一个一厘米的微创手术，结果却做了一个一米长的切口。。。
会出现这种情况吗?
一.有本质安全的工具吗?
按照我的套路，要回答人工智能是否安全，首先要定义它的属性:
不管是有人驾驶还是无人驾驶，本质上都是锤子、打火机之类的“工具”。因为我们对世界的认识是渐进的，工具的安全性也是逐渐提高的。随着它的“优点”逐渐大于“缺点”，这个工具会逐渐普及。
举几个例子:
1.1910年，美国颁布了禁止酒驾的法律;直到1968年才颁布法律强制司机系安全带。在汽车普及过程中，事故频率经历了百年一遇的缓慢下降期。今天是90分。
2.作为公认的世界上最伟大的工具，互联网也经历了安全性极低的十年。2000年左右，互联网被广泛使用，出现了红队、冲击波、熊猫烧香等一系列病毒。一个病毒占领全世界的电脑只需要十个小时，比1942年的蝗灾可怕多了。经过这么多年的发展，今天的网络安全水平大概已经达到80分了。
3.人工智能将不可避免地面临同样的命运。历史不会重演，但会押韵。与其祈祷人工智能的完美，不如研究如何让它在地面上安全。
说到这里，就不得不让今天的主角，互联网巨头百度登场了。两年前“重仓”人工智能的百度，已经在这个赛道上走在了前面。世界是公平的:跑得快的，先遇到坑。所以百度在“人工智能安全”方面积累了很多经验。
李彦宏开着一辆自动驾驶汽车走在北京的五环路上。
不久前，我见到了百度安全事业部总经理马杰和百度安全产品事业部总经理韩祖立。与他们交谈后，我相信会发生两件事:
1.下一个流行的人工智能产品可能来自百度;
2.有了大量的用户，问题就会暴露出来，引起广泛关注。所以百度可能是第一个遇到并解决人工智能安全问题的人。
那么，人工智能会面临哪些具体的风险?
马杰(左)和韩祖丽(右)
二、人工智能的安全问题是什么?
2017年伟大的黑客大赛，来自百度安全实验室的小灰用A4纸打印的人脸骗过了人脸解锁设备;同样的A4纸，打印后也可以用来破解虹膜识别;还是A4纸，还能破解社保系统使用的“高安全级”技术“指静脉识别”。
人脸识别、虹膜识别、指纹识别、手指静脉识别都是基于人工智能的重要分支:图像识别技术。
小格雷告诉我:“这些每个人都可以使用的识别技术的原理是通过传感器收集信息，然后输入算法。这样，只要知道这些传感器需要“看”什么，我们就伪造一个来展示。你可以轻易地欺骗和愚弄它。”
这是他自己眼睛的小灰拍，用来破解虹膜识别系统。
这也是韩祖力眼中人工智能面临的第一个问题:“传感器欺骗”。
单纯的认证方式，比如只有人脸识别或者只有虹膜识别，是有旁路技术的，所以目前业内的解决方案是“多因素认证”，即同时采用两种或两种以上的认证方式。同时欺骗两种身份验证方法会增加难度。
