神经网络画的Doge那么魔性，是因为它认知世界的方式和人类截然不同，但究竟不同在哪儿仍然有待解决——至少，在放手让神经网络帮我们开车前，我们必须弄懂它们的想法。
本文作者：DavidBerreby，UsandThem:TheScienceofIdentity一书的作者。竹之岚/编译。本文由Nautilus授权果壳网编译发表，严禁转载。从曼努埃拉·维罗索（ManuelaVeloso）位于布鲁克林一栋写字楼19层的办公室窗口向外望出，美景动人心魄——湛蓝的天空、纽约港和自由女神像。然而此刻，吸引我们目光的却是对面大楼毫无特色的窗玻璃。
从对面的窗户里，我们可以看到椅子、桌子、台灯和文件，但它们看起来有些不对劲；因为它们并不真的在那里。它们的实物实际上位于我们这一侧——很有可能就在我们所在的大楼。午后明丽的阳光照亮了玻璃，将窗户短暂地变成了镜子。于是，我们就看到了半空中被阳光照亮的办公用品，虚无飘渺，丝毫不受地心引力的束缚。
透过窗户看到的，究竟是倒影还是对面的实景？有时连人类都会弄错。图片来源：philipschwarzphotography
曼努埃拉·维罗索是卡内基·梅隆大学计算机科学和机器人技术专业的教授，我正在和她讨论机器如何感知和思考——一个比我预想的难解得多的话题。“机器人怎样才能发现这是倒影呢？”她示意窗玻璃上的光影，“诸如这样的事情，就是对机器来说困难的事情。”
近年来，人工智能已经以无情的速度攻克了很多难题。在过去几年中，一种以高效著称的人工智能——“神经网络”——已经在一些领域里赶上、甚至超越了人类，包括研发新药，挑选 工作候选人，甚至还有驾驶汽车。神经网络的构造模仿了人类大脑，现在，它（通常）已经能够辨别出文章的好坏，并且（通常）能以相当高的精度从图片中分辨出目标物体。神经网络的应用日益广泛，不仅在随处可见的日常领域中，比如谷歌的搜索引擎、亚马逊的推荐目录、脸书的好友动态和垃圾邮件的过滤，还有*事、金融、科研、比人类驾车更靠谱的自动驾驶等重要工作。
神经网络有时会犯一些人们可以理解的错误（的确，窗户里的桌子看起来非常真实；甚至连我也很难看出它们只是倒影），但另外一些难题，却会让它们给出让人难以理解的回答。神经网络的运作方式，是执行算法——关于如何完成任务的指令。算法当然是由人类写成的，但有时，神经网络会得出十分诡异的结果：不正确，但也不是人类能理解的那种错误。事实上，这些运行结果看起来简直像是外星生物的杰作。