如何创造可信的ai

　　[美]盖瑞·马库斯（Gary Marcus）
新硅谷机器人创业公司Robust.AI首席执行官兼创始人。机器学习公司“几何智能”首席执行官兼创始人，该公司于2016年被优步收购，随后马库斯在优步创立了人工智能实验室。
纽约大学心理学和神经科学教授。研究方向跨越人类和动物的行为，涉及神经科学、心理学、人工智能等多个领域。
1994年于麻省理工学院博士毕业，师从心理学大师史蒂芬·平克。
[美]欧内斯特·戴维斯（Ernest Davis）
纽约大学柯朗数学科学研究所计算机科学教授，人工智能领域科学家。

　　这是一本对当下人工智能大潮的反思之作。让人们了解到人工智能领域的真实状况，不受宣传报道的欺骗。与“人工智能霸主统治人类”的夸夸其谈不同，这本书既诊断出了当下人工智能领域的真实疾病，也开出了切实可行的治愈良方。
苇草智酷创始合伙人段永朝；中国科学院心理研究所所长　中国科学院大学心理学系主任，中国心理学会原理事长傅小兰；搜狗 CEO王小川；平安集团首席科学家肖京；乌镇智库理事长，《人工智能简史》作者尼克；比尔·盖茨；心理学大师，语言学家，《当下的启蒙》《心智探奇》作者史蒂芬·平克；现代语言学之父，认知科学领域创始人之一诺姆·乔姆斯基；图灵奖得主，《为什么：关于因果关系的新科学》作者朱迪亚·珀尔；麻省理工学院计算机科学和人工智能实验室前主任罗德尼·布鲁克斯等联袂推荐。

作者简介
赞誉
推荐序 可信的AI
献词
第1章 AI该往何处走
第2章 当下AI的9个风险
第3章 深度学习的好与坏
第4章 计算机若真有那么聪明，为什么还不会阅读
第5章 哪里有真正的机器人管家
第6章 从认知科学中获得的11个启示
第7章 常识，实现深度理解的关键
第8章 创造可信的AI
后记
致谢
推荐书目
注释
参考文献

　　在言必称AI的年代，《如何创造可信的AI》这本书无疑是一副清醒剂。忘掉深度学习，回归常识推理，更加精彩的AI之路在于深度理解。
——段永朝
苇草智酷创始合伙人
AI何去何从这本书对这个问题作了极为冷静透彻的解析。作者指出，AI发展的方向是在人类心智的内在结构中探索，即使这不是w一方向，也是极其重要的方向。非常值得一读!
——傅小兰
中国科学院心理研究所所长，中国科学院大学心理学系主任，中国心理学会原理事长
深度学习的成功实践，激励了资本、学者、媒体、产业人士对人工智能的拥抱。我们有的不明其就，也有的一叶障目。本书作者是权威的专业人士，以通俗易懂的方式，讲解了当今人工智能的局限性，以及如果能通向未来，还必须解决的关键问题。每一位拥抱人工智能的非专业人士，以及还不够精通人工智能的从业人员，都将从此书中获得收益。
——王小川
搜狗CEO
本书对当前AI的发展状况进行了清晰客观的评估，解释了当今AI技术的“狭隘”性。作者从深度学习算法固有的缺陷出发，阐述了当下AI技术发展的桎梏，同时对当前AI技术在多场景应用中遇到的问题进行了分析，探讨了解决常识问题的指导方案，指出可以通过增加实践检验、搭建安全监管与预防体系等方式提升AI技术的安全可靠性。最终，本书以通用人工智能为发展目标，给出了未来AI技术的一种发展方向。
本书既为初学者提供了一个了解AI技术当前发展状况及未来发展方向的窗口，又为专业人士研发可信的AI提供了有价值的建议。这本书对金融及健康领域AI产品的研发具有一定的指导意义。
——肖京
平安集团首席科学家
人工智能不等于深度学习，深度学习不能解决所有问题。人工智能发展史上素有符号派和联结派之争，本书的两位作者偏符号派，他们对深度学习的批评是善意的，所开的药方是常识理解。本书对内行外行都有价值。
——尼克
乌镇智库理事长，《人工智能简史》作者

　　推荐序
可信的AI
陆奇　奇绩创坛创始人兼CEO，百度前总裁兼COO，
微软前全球执行副总裁，雅虎前执行副总裁
我很高兴能为盖瑞·马库斯的新著《如何创造可信的AI》作序。鉴于这本书主题的重要性，我尝试从三个不同的角度为中国读者提供背景信息与书中核心内容的概述，希望有助于读者更有效地从阅读本书中获益。
我先介绍一下马库斯的个人背景，我认为他特殊的学术和行业履历能帮助读者更加全面地解读书中所表达的主要观点。马库斯在高中时代花了很多精力去开发一套计算系统，目的是把拉丁语自动翻译成现代英语。虽然这个项目没有成功，但整个过程让马库斯学到很多，特别是让他深切感受到要让一个计算系统具备类似人类般的认知能力和语言理解能力，纯粹依赖计算能力是远远不够的。他因此而形成的理念是，一个计算系统具备认知能力和语言理解能力的前提，是该系统必须具有一定程度的内在结构。
为了继续他在科学上的追求，马库斯在大学本科时期打破当时学校的常规，自我设定了认知科学作为主攻专业。在麻省理工学院学习期间，他师从世界著名心理学大师和认知科学家史蒂芬·平克教授。马库斯在他的博士论文工作中做了大量研究儿童学习英语的实验，他的研究成果为现代认知科学发展做出了非常重要的贡献。博士研究生毕业后，马库斯在纽约大学担任心理学教授，推动了一系列有影响力的学术研究，跨越计算机科学、认知科学、语言学和心理学等多个领域。
与此同时，马库斯在学术研究过程中形成了越来越完整的学术理念，对认知科学和人工智能的学术研究发展方向也形成了一系列清晰的观念，这一切可以从他所撰写的一系列学术著作中体现出来：《代数思维：连接主义与认知科学的融合》（The Algebraic Mind: Integrating Connectionism and Cognitive Science）、《思维的诞生：一小部分基因如何创造了人类思维的复杂性》（The Birth of the Mind: How a Tiny Number of Genes Creates the Complexities of Human Thought）、《克鲁格：人类思维的偶然构建》（Kluge: The Haphazard Evolution of the Human Mind）等。
通过这些研究工作，马库斯在认知科学和人工智能等领域的国际学术界也享有了特殊的一席之地，一方面源于他所做的学术研究为这样的地位奠定了重要基础，另一方面源于他杰出的跨学科综合科研能力。他在计算机科学、认知科学、语言学、人工智能等领域都练就了相当深厚的学术功底，更重要的是，马库斯一生追求科学，通过长期努力打造了一套自己的学术理念和体系。在追求科学真理的道路上，他敢于挑战学术界的主流观点。马库斯学术功底深，思路敏捷，能言善辩，敢于独树一帜。当整个人工智能学术界都在过分乐观地高歌猛进时，他不断撰文和发表演讲来指出许多人工智能核心技术中存在的弊端和局限性。他坚信自己的学术理念，不认同当今学术界的主流方向能把人工智能从今天带到未来。他敢于站出来泼冷水、唱反调，并敢于向人工智能学术界泰斗如杨立昆（Yann LeCun）等人发起多次公开辩论，因为马库斯深信这是追求科学真理所必需的。
更为重要的是，马库斯不仅是独树一帜的科学家，也是一个颇有成就的企业家和创业者，并专注于人工智能技术的开发与应用。他不但在学术上坚持自己的理论和方向，同时也把自己的学术理论和发展方向付诸实践。他在2014年创建了机器学习公司“几何智能”，由于在技术和应用上都做得相当不错，公司于2016年被当时如日中天的优步成功收购，马库斯也由此加入优步成为其第一任首席科学家。离开优步之后，马库斯联合著名机器人专家罗德尼·布鲁克斯等人一同创立了一家名为Robust.AI的新公司，公司专注于新一代的人工智能认知引擎研发，并以机器人为主要应用对象。我们可以看出，马库斯在本书中阐述的核心观念并不是纸上谈兵，而是在实际的创业创新过程中被不断验证和迭代的。
多年前，我在工作中认识马库斯之后，便一直保持联络，我们在人工智能的学术研究和实际应用上有着长期的交流。我也阅读了马库斯过去的著作，听了他重要的学术演讲。我之所以花时间将马库斯的背景信息介绍给读者，是因为马库斯在本书中所阐述的核心内容是承上启下的。书中的内容既建立在过去累积的学术观念和理论之上，也是他对人工智能的现状和下一步发展方向所做的完整总结与梳理。马库斯以打造“可信的AI”为主题贯穿全书的内容。这里需要指出的是，马库斯所持有的观点在学术界和行业内是不无争议的。这样的争议在人工智能从今天走向未来的过程中，是健康的，也是必要的。重要的是，我们需要让每位读者都有一个全面的背景认知，以便更有效地从本书中获得有价值的信息、观点、方法论和启迪，不论读者是对作者的科学研究背景感兴趣，还是对开发人工智能技术应用有兴趣，不论读者是创业者，还是企业管理人员。
本书的内容由两大部分组成。第一部分是第1章到第5章，马库斯非常详细和系统化地分析了今天以深度学习为基础的主流人工智能技术所面临的局限性。针对每一类被揭示出来的局限性，马库斯充分发挥了他对自然语言处理、机器人和计算机视觉等领域的科研经验和深刻理解，通过生动易懂的案例把这些技术局限性的现象和原因清晰地描述给读者。马库斯强调在没有充分理解人工智能技术目前局限性的情况下大量开发人工智能应用将承担相当大的风险。为了帮助读者更方便地理解和判断这些风险，马库斯把这些局限性详细分成了9个类别，包括鲁棒性的缺失等。
第一部分的中心内容是马库斯对人工智能的核心技术——深度学习所提出的一系列质疑。这里采用了一系列具体案例和推理来强调我们必须在深度学习的基础之上探索新的技术突破。马库斯充分发挥了他在人工智能核心领域以及跨领域科研的实力。从深度学习核心算法的内在体系开始，贯穿多项人工智能发展的前沿应用领域，比如语言理解和机器人等，马库斯深入浅出地分享了对人工智能技术发展的核心观点：如果我们沿用目前以深度学习为主的人工智能技术，而不在其内在结构上探索新的途径，以后将很难建立起具有人类般的认知能力和真正意义上的智能系统。
在这里尤其要提出的是：在第一部分的开始阶段，马库斯花了大量篇幅来分析今天人工智能技术被媒体所报道的能力与目前人工智能技术能够实际“落地”的能力之间的对比，指出这两者之间存在严重的脱节。马库斯指出了学术界所存在的浮夸现象以及有些媒体过分乐观的炒作，将这种人工智能报道与现实之间的严重脱节叫作“AI鸿沟”。他认为如果在推进人工智能科研和应用开发的过程中不能清晰地意识到这个鸿沟的话，我们将会踩很多坑。我们都知道人工智能技术已经被广泛地应用，有一些是涉及关键使命的，比如自动驾驶系统，有一些则对社会有着深远的影响，比如信息检索和内容分发等。
特别是在应对目前全球面临的由新冠疫情带来的前所未有的挑战中，人工智能技术将起到越来越关键的作用。在这样的关键时机下，做出正确的判断并避免踩坑将是至关重要的。为此，马库斯追根溯源把“AI鸿沟”归纳为三种“大坑”。第一是“轻信坑”，这是由于人类进化的现实过程还没有发展出清晰辨别人类与机器之间区别的能力，导致我们往往用基于人类的认知模式去看待机器的能力，从而容易轻信机器拥有人类般的智慧。第二是“虚幻进步坑”，每当AI技术的进展攻克了一类新的问题时，我们往往错误地假设AI技术就能解决以此推及的、现实世界中的类似任务。但是AI学术上的问题往往是定义在狭义而简化的假设下，而现实世界的具体任务都有很大的复杂性和不确定性。第三是“鲁棒坑”，受限于当前深度学习算法和训练数据，对容错性很低特别是使命关键的应用领域比如无人驾驶等，今天的AI还没能达到实际“落地”的能力。马库斯告诫我们必须关注“AI鸿沟”，因为踩坑的代价是非常高的。
在这里我必须要指出，马库斯是人工智能技术的坚信者，并在人工智能学术研究和实际应用上做了很多积极的推动工作。他也认为基于深度学习的人工智能技术在过去十多年有了长足的进步，为一系列商业化应用做出了重要贡献。马库斯质疑当前主流的人工智能技术，是希望学术界和其他相关行业能一起更有效地克服目前人工智能技术的局限性，探索新技术上的突破，从而真正实现可信的AI。
本书的第二部分是第6章到第8章，在其中马库斯提出了他认为的能通向未来可信AI的核心路径。这一路径的起点是在研究人类如何获得认知能力时所获得的核心启发，并以此建立下一代人工智能技术中必要的内在结构。这里的核心理念是马库斯在长期跨学科科研探索中逐渐建立起来的，我们可以从库斯马早期的学术著作中看到相应的端倪。马库斯以认知科学、心理学、语言学和哲学为基础提取出11条关键线索，认为这将对未来人工智能技术在发展过程中达到具备人类智能的鲁棒性起到关键作用。这些线索的共同核心是用内在更丰富的结构来表达信息、建立认知、建立起其他智能体系的核心要素，比如因果推理能力等。
在第二部分中，马库斯还强调了常识在实现未来通用人工智能中的重要性。对于如何建立常识，书中的内容充分体现了马库斯作为一个跨学科的学者和跨行业的企业家、创业者所拥有的综合能力，既有核心的科学原则又有务实的系统操作：从表达时间、空间和因果关系开始，建立一个有足够灵活性的框架并以此来连接感知、操作、语言的能力，并能不断地从环境以及与环境交互中学习，同时将先验与学习有机地融合在一起。这将是一个非常艰巨的任务，但马库斯认为这是必需的工作，是建立真正智能体系的必经之路。
最后，马库斯讨论了几个建立可信的AI所需要的实际能力。首先，我们要有能力来工程化地、有效可靠地开发AI系统与应用。正如计算机科学早期发展的历史一样，软件开发工具和开发流程是经过计算机软件工程这门子学科多年的努力才逐渐建立起来的，我们需要同样的努力来逐步打造工程化开发AI系统与应用的能力。其次，确保AI系统的安全性需要全新的开发与运营能力，尤其是关键使命的AI应用。最后，AI系统，比如机器人，需要其创造者赋予正当的道德伦理观念，类似于美国科幻作家艾萨克·阿西莫夫（Isaac Asimov）提出的机器人三定律。只有具备这些实际能力，我们才能真正创造可信的AI。
众所周知，人工智能是目前为止人类历史上创新潜能最大的技术发展浪潮。在未来的几十年里，它不但能诞生全新的大规模基础产业，也能极大程度地提升和改造所有现有行业。人工智能技术及应用所产生的商业价值和社会价值将是空前的。但要推动人工智能的健康发展，我们需要不断推进人工智能核心技术的进步，以及各种人工智能应用的开发和实践。这将是一个持久的过程，需要学术界和产业界一起合作，需要看到不同的理念、听到不同的声音、表达不同的想法，在一个健康良好的环境中不断交流、撞出火花，更好地探索科学的真理，加速人工智能的进展。
尽管不无争议，但《如何创造可信的AI》为我们提供了丰富的内容和理念。我希望，也相信中国的读者都能在阅读本书的过程中有所获益。

　　现如今整个社会对AI的热烈追捧，很大一部分原因是基于一个简单的事实：在其他因素不变的情况下，你拥有的数据越多，效果就越好。如果你想要预测下一次选举的结果，但只能对100个人的意向进行调查，那么祝你好运。如果你能对1000个人进行访谈，那么预测的准确率就会高出许多。
但是，在AI早期，根本没有那么多数据，而且数据本身也没有那么高的重要性。许多研究都遵循“基于知识”的方法，这种方法有时叫作GOFAI——老式AI，或“经典AI”。1在AI中，研究人员会用手工编码的方式，输入人工智能执行特定任务所需的知识，之后再编写计算机程序，将这些知识应用于各种认知挑战之中，比如理解故事、为机器人制定计划或证明定理等。那时候并不存在大数据，而且这些系统从一开始就不会围着数据打转。
虽然从理论上讲，利用这种方法去打造实验室原型是可行的（需要投入大量的工作），但实际上则很难跨越实验原型的阶段。具有实际应用价值的经典AI系统数量很少。在为机器人规划路线和GPS导航等领域，这类技术仍被广泛应用。但总体来说，传统的以知识为中心的方法在很大程度上已经被机器学习所取代。2机器学习尝试从数据中学习一切所需，而不再依赖于手工编程构建的知识以及相应的计算机程序。