学习处理机器的错误。
传统的确定性计算机不会出错。它们对任何给定的输入执行一系列可预测的计算。输入可能有误。所执行的操作背后的逻辑可能有缺陷。但是计算机总是会完全按照它被告知的去做。当出现意外结果时，可以将其归咎于程序员、系统制造商或其他负责任的人员或公司实体。
“智能”计算机则不同。通常，分类任务的结果是一个估计:一个图像属于某个特定组的概率，一个具有一定可信度的预测值。最好的图像和语音识别算法可以达到90%以上的准确率，在某些情况下接近人类所达到的结果，但它们并不完美。
此外，计算机犯的错误与人类不同。你手机的语音识别系统永远不会犯拼写错误，但可能会选择在上下文中没有意义的单词。我们可能都经历过某种形式的自动纠错尴尬。然而，有趣或令人沮丧的消息应用程序与用于安全敏感或生命攸关情况的软件之间存在重要区别。
例如，每周有超过200万人通过亚特兰大机场。如果一个准确率高达95%的面部识别系统将这些乘客与恐怖分子嫌疑人的图像进行比较，那么每周将有超过10万次错误识别。(可能更多，因为图像数据库本身可能不完全可靠。)因为恐怖分子很少，绝大多数都是假阳性，可能会让完全无辜的人遭遇旅行延误和侵入性搜查。
对于像自动驾驶汽车这样对生命至关重要的应用，识别错误的后果可能更加严重。在一个众所周知的例子在美国，一辆处于“自动驾驶”模式的特斯拉未能识别出一辆卡车，最终导致司机死亡。
我没有开过自动驾驶汽车，但我的车确实有“智能”巡航控制系统，它会自动减速或加速以保持安全的跟随距离。它在大多数时候表现良好，但有一种令人不安的倾向，将头顶的标志和天桥视为障碍。有一次，我跟在一辆卡车后面，它先是减速，然后开走了。然而，巡航控制系统似乎把卡车和一个颜色相似的立交桥视为一个物体。它以为那辆“卡车”突然停在了路中间，为了保护我，它使劲刹车。幸运的是，我后面没有车。
当然，人类司机也会犯错。他们突然转向，迷失方向，突然转向，不可预测。支持自动驾驶汽车的一个理由是，即使它们并不完美，但它们仍然可以通过比人类更好来拯救生命。这可能是真的，但自动驾驶汽车会带来新的错误，而周围的人类司机可能还没有准备好认识到这些错误。随着“智能”机器变得越来越普遍，公民和政策制定者都需要努力应对它们的成功和失败。
|
|
|
|
|
|
|
|
|
|
留下回复