|
毫无疑问，人工智能是这几年非常火热的产业之一。 随着应用领域的不断扩大，机哥也常常听到很多人发出这样的声音： “我想做AI……”
没错，只要随手在知乎上一搜，就能发现不少想要转行从事人工智能的朋友。 毕竟作为风口行业，做AI还是蛮吃香的。
但是嚯，并不是所有人做出来的人工智能产品，都能够达到最完美的效果。 国外就有人专门建立了一个数据库（AI Incidents），汇总了迄今为止翻车的各种AI产品。 可以说，堪称沙雕。
机哥相信，对很多人来说AI翻译并不陌生。 和传统的机器翻译不同，AI翻译可以利用计算机算法，达到流畅的翻译效果。 并且AI翻译还能像人一样，通过不断的学习，完善翻译的能力。 听起来非常先进，但这丝毫不影响它半路翻车。
事情发生在以色列。 一位名叫哈拉基姆·哈拉维（Halawim Halawi）建筑工人在社交媒体Facebook上，用阿拉伯语发布了一句“早上好”，搭配一张自己站在拖拉机旁的照片。 随后，这个男子就毫无预警地，被当地警察给逮捕了。
美好的早晨，从免费供应的警察局盒饭开始。 紧张的哈拉基姆在和警察的沟通中发现，他之所以被带走，是因为Facebook的AI翻译把“早上好”，翻译成了“攻击他们”。 原来，AI翻译功能将非标准阿拉伯语，连蒙带猜地识别成希伯来语。 就好像有人把口语化的“早啊您嘞”，错误地看成“草（cǎo）啊您嘞”，并翻译成其他语言。 再加上此前有挖土机攻击群众的例子，就让警察更加肯定这名男子要实施犯罪。
一般来说，这种无法识别的单词，翻译引擎会选择保留，或者跳过不翻译。 但是在AI翻译当中，它会根据数据库当中的信息，自行学习并且试图拼凑出这些词语的意思，多少有点自作聪明的赶脚。 这并不是AI翻译第一次翻车。 此前，谷歌翻译也曾经把“俄罗斯联邦”翻译为“Mordor”，后者是《指环王》里一个邪恶又黑暗的地区。
谷歌自动把俄罗斯翻译成Mordor 而微信上的翻译服务，也曾得出了很多让人啼笑皆非的翻译结果。 例如“You are so caixvkun”，被翻译成了“你真是个傻蛋”。
当然啦，AI翻译翻车还只是AI Incidents数据库里的一个例子。 更沙雕的，还有使用人工智能技术开发的机器人。
为了缓解人手不足的情况，苏格兰的一位老板在自己的超市里，尝试引进了一个机器人店员。 这个机器人由赫瑞瓦特大学的研究团队研发，名叫法比欧。 它被设计成像Siri或Alexa一样，只要连接上Wi-Fi，就能够和顾客进行对话，解决顾客的问题。 听起来是不是非常高端大气上档次……
但是大家都知道，理想很丰满，现实却很骨感。 例如顾客询问奶酪在哪个位置的时候，法比欧只会回答“奶酪在冰柜里”。 听起来没有什么不对，但鉴于超市的冰柜有一整排，法比欧的答案对于顾客来说，就是答了个寂寞。 而当顾客询问啤酒在哪里的时候，法比欧也只会空泛的回答到“在酒精饮料区”。
这还不算完。 由于法比欧被设计成胯胯轴微微凸起的形象，不少超市的顾客都被顶到……吓到不敢靠近。 而且顾客还会抱怨经常它挡道，所以大部分人看到它都选择绕道避开。
最终，法比欧因为吓跑不少顾客，没有逃过被解雇的命运。
还有亚马逊的AI助手Alexa，不仅一次被记录下翻车。 有孩子在要求播放歌曲Digger Digger时，Alexa试图给他播放成人电台的作品。
糟糕，Alexa给孩子播了成人内容 这个过程刚好被孩子的父母用手机记录下来。 也幸好父母在旁边，才阻止了Alexa的进一步动作。 不过根据视频显示，当时Alexa已经说出不少儿童不宜的词语。
还有一次，美国电视里的新闻主持人正在播报新闻，谈到一个小女孩和亚马逊Alexa的有趣互动。 这个小女孩在Alexa的帮助下，订购了一个玩具屋和一大罐饼干 随后主持人说出，“我超喜欢这个小女孩说，'Alexa给我订了一个玩具屋'的样子”。 然后……全国各地就有不少民众表示，自己的Alexa被电视里的这句话唤醒，并且准备订购玩具屋。
Alexa被意外唤醒，试图购买大量玩具屋 除了亚马逊的Alexa之外，大家熟悉的Siri其实也因为过于沙雕，闹出过不少笑话。 例如有人测试，告诉Siri想吃大便。 Siri居然真的推荐了几个公共厕所。。
而比起上面那个玩笑话，接下来的就更可怕了。 在某一版iOS当中的Siri，在收到“我会自杀”的讯息时，回答的竟然是： 我相信你可以的。
众所周知，AI人工智能的一个重要领域，就是人脸识别。 在这方面，AI Incidents数据库记录下的翻车例子也不少。 其中一个就来自咱们中国。 没错，就是大家非常熟悉的“董明珠闯红灯”事件。
这张图相信大家也看过很多次啦。 宁波行人闯红灯曝光台在曝光的过程中，由于人脸识别算法的问题，将人行道上驶过的公交车上的董明珠广告形象，给曝光在大屏幕上。 而当时宁波交警也回复，将对技术进行升级。
AI算法闹出的笑话还不止这一个。 疫情期间一场网络直播的足球赛，采用AI识别控制镜头自动跟踪足球，进行了网络直播。 然而，AI认为场边的裁判的光头是足球，就一直把画面聚焦在裁判的光头上，导致了球迷无法正常观看球赛。
AI把裁判的光头误认为足球 不过最严重的，还要属iPhone的人脸识别翻车。 美国的一家著名生物识别安全公司FaceTec，找到了iPhone X上Face ID的识别漏洞。 如果用户睡着，可以通过打印一双纸质的眼睛放在用户的脸上，从而欺骗Face ID完成解锁。
这还不是最过分的。 研究人员从pizza上随手拿下一些配料放在眼睛上，也能完成解锁的动作。 例如直接用橄榄代替眼睛，就能够让iPhone X解锁。
或者是香肠和橄榄组合，也能轻松骗过Face ID。 顿时间，iPhone这几代那个浓重而又占地方的刘海，就显得有点鸡肋。
另外，还有橄榄和蘑菇的组合，也一样能够替代用户的眼睛来解锁。
当然啦，上面的例子大家看完的反映，大多就是笑一笑。 但是，除了这些比较有趣的翻车例子之外，AI Incidents数据库还记录下很多血的教训。 在使用的过程中，由于种种的原因，AI也造成了一些严重的事故。 例如亚马逊的工厂里，由于AI机器人无故刺破驱熊喷雾，就导致24名员工送院治疗。
机器人意外释放驱熊喷雾 24名亚马逊工人送医 而在2017年美国加利福尼亚州发生大火时，一个以AI智能规划路线的导航，就在用户准备逃离时，把用户引导至大火的方向。
导航把用户引向山火方向
除此之外，AI Incidents数据库中还有不少自动驾驶事故案件的纪录。 包括大家熟悉的特斯拉和Uber，都多次发生过类似的问题。 其中大部分都是因为AI系统无法及时躲避路上的行人，才导致了悲剧的发生。
自动驾驶车辆意外造成亚利桑那州女性死亡
当然，说了那么多AI翻车的故事，机哥并不是要告诉大家远离AI。 毕竟作为未来科技发展的一个重要方向，AI能够带给我们的好处，远远比这些翻车的事故要多。 前提是，要在技术成熟的前提之下。 因为只有保障了使用的安全，AI才能够最大程度地为我们的日常生活提供帮助。 不然的话，压根就谈不上什么人工智能。 顶多就是人工智障而已。 |
