看完这 10 大 AI 失败案例，你就知道什么是“人工智障”了

　　今年，AlphaGo与Libratus分别战胜了人类最顶级的围棋棋手和扑克牌玩家，展示了人工智能的非凡进步。然而，这些成功背后也伴随着一些失败案例，引发了人们对这项新兴技术成熟度的质疑。但令人欣慰的是，越来越多的人工智能项目开始落地，独立运行，部分替代人类工作。不过，它们偶尔也会犯错，这些错误对人类来说可以轻松避免。接下来，我们将回顾2017年人工智能领域最具代表性的十大失败案例，从中汲取教训。

1. 　　iPhone X的面部识别技术被面具破解：Face ID是新型iPhone X的面部识别技术，被誉为最安全的人工智能激活方法。然而，越南公司BKAV使用3D打印技术制作了一个面具，成功破解了这项技术。这一事件引发了人们对消费级设备隐私安全的担忧。

2. 　　Echo音响午夜异常开启：亚马逊的Echo智能音响在夜间异常唤醒并开始播放音乐，扰乱了邻居的休息。这一事件暴露了智能设备的潜在问题。

3. 　　Facebook聊天机器人关停事件：今年七月，两个Facebook聊天机器人因使用无法识别的语言相互沟通而被关停。这一事件引发了关于秘密超级智能语言的猜测，但后来被证实是由于语法编码的疏忽造成的。

4. 　　拉斯维加斯自动驾驶巴士发生撞车事故：一辆自动驾驶巴士在拉斯维加斯首次亮相后，仅运行两小时就发生了一起撞车事故。尽管责任主要在半挂卡车，但乘客对巴士的智能程度表示质疑。

5. 　　Google Allo错误识别枪支表情符号：Google Allo聊天应用错误地将包含手枪的表情符号识别为戴头巾的人像表情符号。这一事件暴露了自然语言处理的局限性。

6. 　　孪生兄弟破解汇丰银行语音识别系统：汇丰银行的语音识别系统被一名BBC记者的双胞胎兄弟通过模仿声音成功破解。这一事件引发了人们对语音安全性的担忧。

7. 　　谷歌AI将步枪误识别为直升机：麻省理工学院的研究小组通过微调步枪照片蒙蔽了Google Cloud Vision API系统，将其误识别为直升机。这一事件揭示了图像识别技术的脆弱性。

8. 　　恶作剧路牌误导自动驾驶汽车：研究人员发现通过伪装停止标志可以误导自动驾驶汽车的机器学习系统将其误识别为限速标志。这一事件提醒我们自动驾驶汽车仍需谨慎测试。

9. 　　AI将Bank Butt误认为sunset：机器学习研究人员Janelle Shan训练了一个神经网络但出现滑稽可笑的错误将天蓝色标记为“Gray Pubic”等。这揭示了人工智能在颜色识别方面的局限性。

10. 　　向虚拟助手Alexa提问时需小心：亚马逊Alexa虚拟助手让购物变得容易但也存在安全隐患如六岁女孩轻易购买价值170美元的玩具屋。此外当电视主持人重复了女孩的话时一些观众家里的Alexa设备再次触发了玩具屋订购操作。这一事件提醒我们与虚拟助手交互时需谨慎选择内容。

　　这些失败案例为我们提供了宝贵的教训和经验提醒我们在人工智能的发展过程中需要更加谨慎和审慎。