曾经，人工智能被人们视作未来科技。但如今，人们想要看到超越人工智能的未来。在如今物联网、机器人、纳米科技及机器研究逐渐发展和崛起的背景下，本文试图解读人们对人工智能在未来五年内发展的看法。 一、概要 很显然，在过去几年间，人工智能给许多领域造成了非常大影响。不过，人们现在考虑的是，人工智能在未来五年内会在哪些领域发展。笔者认为，有必要（撰写一篇文章）描述如今我们如今看到的一些发展趋势，并对关于机器研究领域未来的发展做出一些预测。如下提出的列表并不一定穷举了所有的可能，读者也无需奉之为圭臬。但它们源自于在考虑人工智能对我们世界影响时，笔者认为有用的一些观点。 二、关于人工智能的十三点预测 1.人工智能工作时需要的数据量会变得更少。诸如 Vicarious 或 Geometric Intelligence 这样的公司，正在努力减少训练神经网络所需要的数据集的大小。训练人工智能使用的数据量如今被视为其发展的主要障碍，同时也是其最主要的竞争优势。同时，使用概率归纳模型（probabilistic induction， Lake 等人提出， 2015）能够解决这个在人工智能发展上的主要问题。某种不那么需要大量数据的算法，最终将会以丰富地方式研究、吸收并使用这个概念，无论是在行动上、想象上还是在探索中。 2.新的研究模型是关键要素。一种名为转移研究（Transfer Learning）的技术能允许标准的强化研究（Reinforcement Learning）系统基于之前获取的知识进行构建——而这是人类能轻松完成的。它隶属于增量研究（Incremental Learning）技术。而 MetaMind 则在学习多任务研究（Multitask Learning）问题。在其中，同一个神经网络被用来解决不同类型的问题，且当该神经网络能够在一类问题上表现更好时，那么它也能在另一些问题上表现更好。MetaMind 的下一步发展，是引入动态神经网络（Dynamic Memory Network）的概念，它能够回答特定问题，并能够推断一系列话语间的逻辑联系。 3.人工智能会消除人类（认知）偏差，并能让我们变的更像「人造」的。人类的天性，将会因为人工智能而改变。Simon（1995）表示，人类不会作出完全理性的选择，因为（做出）最优化选择代价高昂，还因为人脑计算能力有限（Lo， 2004）。人们常常做的是寻求满意解，即挑选出至少是能使自己满意的选择。在生活中引入人工智能，或许会结束这样的情况。当（装备了人工智能）人类不再受计算能力约束后，这终将会一劳永逸地回答，是认知偏差真实存在并且是人类本能，还是这些行为只是在有限信息环境下或限制性情况下进行决策的捷径。Lo（2004）认为，人类（做决策时）的满意点，是在一系列的进化尝试和自然选择的过程中形成的。在其中，个体基于过去数据和经验进行预测并做出选择。他们根据接受的正／负反馈进行研究，并能够启发式的快速解决相关问题。但是，一旦环境改变，适应过程则有些延迟和缓慢，而且一些老的习惯并不能适应新的改变——这就造成了行为偏差。人工智能则会缩减这些延迟时间到 0，虚拟化的消除任何行为偏差。 此外，基于经验随时间进行研究，人工智能成为新的变革工具：我们通常不评估所有的备选决策，因为我们不能想到所有决策（知识空间有限）。 4.人工智能会被愚弄。如今的人工智能远非完美，同时也有很多人正专注于学习如何欺骗人工智能设备。最近一个被叫做对抗样例（Adeversarial Examples; Papernot 等人， 2016; Kurakin 等人， 2016）算法被研发出来，它是首个能够误导计算机视觉的方法。智能图像识别软件会被经过微妙处理的图像所愚弄，该软件会对这些图像进行错误地分类。但有趣的是，这种方法却不会欺骗人类。 5.人工智能的发展伴随着风险。主流的声音认为，人工智能正越来越成为人类潜在的灾难。当一个超级人工智能系统（ASI， Artificial Super Intelligence）被造出的时候，也许它的智慧远超过人类，甚至它能够想到并做到我们今天不能预测的事情。尽管如此，我们认为，在这些可怕的于人类存亡相关的威胁之外，还存在着不少和人工智能相关的风险。我们对于超级人工智能会做什么、怎么做，这背后隐藏的风险实际上都无法理解，无论它们会对人们造成正面的还是负面的影响。再之，在从狭义人工智能（Narrow Artifical Intelligence）向强人工智能乃至超级人工智能转换的过程中，会产生一个内在的责任风险——谁会对可能出现的错误或者故障负责？更进一步，在究竟谁能主导人工智能、人工智能的能力应该被如何使用的方面，也同样存在着风险。在这种情况下，我们确实觉得，人工智能应当作为一个工具（或是面向所有人的公众服务）被使用，并预留一定程度的决策权给人类以帮助该系统处理罕见的意外情况。 6.真正的通用性人工智能很可能是一种集体智能（Collective Intelligence）。强人工智很有可能不会是一个具有强大决策功能的单一终端，而是一种集体智能。群体智能（Swarm or Collective Intelligence， Rosenberg， 2015;2016）可以被视作「一群大脑的大脑」。到目前为止，我们仅让个体提供输入值，然后我们以一种「平均情绪」的智能方式整合这些事后输入。Rosenberg 称，现存的实现人类集体智能的方法，甚至都不允许用户之间互相影响。它们通常的处理方式，是只允许影响非同步出现——这会导致群体性偏差。另一方面，人工智能则会解决这样的联通缺陷，并且创建一个与其他物种非常相像的统一的集体智慧。自然中较好的例子来自于蜜蜂，它们进行决策的方式和人类神经运作的方式非常相像。它们都是用了大量的可执行单元，它们同步运行，能够整合噪声、权衡替代方案，并最后能够形成特定的决策。Rosenberg 认为，这个决策经过在分布的可执行单元和子群上的实时闭环竞争而最终形成。每一个子群都支持一个不同的选择，而最后共识的达成不是经过经过类似「平均情绪」的方法由大众决定，而是以一种「足够激励量」（Sufficient Quorum of Excitation， Rosenberg， 2015）的方式确定的。对于替代方案的抑制机制，由其他子群产生，能够避免整体系统达到一个部分优化决策。 7.人工智能会带来无法预期的社会政治影响。人工智能首先带来的社会经济方面的影响，是失业问题。尽管从一方面来说这是一个非常现实的问题（当然也在很多方面带来了机会），我们认为也应当从其他不同的方面来看这个问题。第一，工作机会是被完全地摧毁了，而是会变得不同。因为数据将能被个人而非企业直接获取和分析，因而许多服务会逐步消失。并且，人工智能会使得知识分布趋于分散化。我们认为在这场革命中更应该关切的，是它带来的双重后果。首先，使用更聪明的（人工智能）系统后，在特定的领域内，越来越多人将丧失它们的专业性。这预示着，人工智能软件需要被设计整合一套双重反馈系统，能够整合人类和机器的处理方法。我们的第二点担忧和之前提到的第一个风险相关，我们担心人类将沦为「机器技术员」。因为大家都认为人工智能更擅长于解决问题，觉得它们很更可靠（，所以我们会更多地部署人工智能系统）。这种恶性循环将会让我们变得更没有创造力、失去独创力、更不聪明，并会以指数地增加人机的差异。我们正体验着这样的系统，或是当我们使用它时我们会更聪明，或是当我们不使用它时我们会觉得糟糕。我们希望人工智能更倾向于变为前者，而不是带来新的「智能手机效应」——我们会完全地依赖于它。最后，这个世界正变得越来越对机器人友好，人类在其中也扮演着连接机器人的角色而与之对立。机器人（在社会中）正逐步起到主导作用，它们对人类的影响相比人类对他们的影响也越来越大，这也许会让人类最终变为（社会系统中的那个）「故障」。 而在地缘政治方面，我们则认为人工智能会对全球化造成巨大的影响。有这样的可能，由人工智能系统控制机器人运行的被优化的工厂，其厂址最终会重新回到发达国家。因为（到那时）在新兴国家建厂，会失去那些传统的低成本的理由。我们不清楚，这是会平衡国家之间的差异，还是会增大发达国家和发展中国家间已经存在的差异。 8.真正的人工智能应该开始问「为什么」。到目前，大多机器研究系统都能够在模式识别及辅助决策方面做的很好；并且因为大局部程序都被硬编码了，所以它们仍能够被理解。尽管我们已经能让人工智能阐明「是什么」和「如何做」，这已经是一个不错的成就，但人工智能仍未能够理解事物背后的「为什么」。因此，我们需要设计一个通用算法，它能够从物理上及精神上建立关于世界本质的模型（Lake 等人， 2016）。 9.人工智能正在推进隐私保护问题和数据泄漏预防问题。人工智能将隐私问题提升到了一个新的等级。新的隐私保护方法应当被发明及采用，它们应当比简单的安全多方计算法（SMPC）复杂得多，也应该比同态加密法（homomorphic encryption）高效迅速。最近的学习表明，差分隐私（Differential Privacy）法能够解决大局部我们日常遇到的隐私问题。不过已经有不少公司走得更远，如 Post-Quantum 公司——这是一家基于量子计算的网络安全创业公司。 10.人工智能正在改变物联网（设备）。人工智能（的发展）允许物联网设备能被以完全分布式的架构进行设计，在其中每一个节点都能够进行自己的预算（也就所谓的边界计算）。在传统的中心化模型中，有一个被称作是服务器／客户端模型的问题。其中的每一台设备都连接到云端服务器，并由云端服务器识别、验证，这导致了非常昂贵的设备费用。但基于分布式方法设计的物联网网络或是传统的点对点（Peer-to-Peer， P2P）架构，则能够解决这个问题、降低费用，并能够避免因一个节点实效而造成整个系统损坏的问题。 11.机器人学正变为主流。笔者认为，人工智能的发展会受到机器人学发展的制约。同时，这两个关联的领域会以相同的速度发展，以最终得到一个适当的强人工智能或超级人工智能。如下图所示，在我们的学习乃至我们的集体意识中，我们不会视那种没有「物理实体」的人工智能为强人工智能或超级人工智能。 关于机器人学及人工智能相关领域的学习趋势（由 CBInsights Trends tool 制作） 另外还有一些证据能证明这个趋势： 最近激增的机器人相关专利申请数量。据 IFI 称，中国（近期）已经有超过 3000 项目申请，在美国、欧洲、日本、韩国等地的数量大致相同。 如下图所示的最近机器人相关基金的价格走向。 机器人 STOX 基金从 2013 年至 2016 年的价格走向 12.人工智能在发展中也许会面临阻碍。在实现强人工智能的过程中面临的最大阻碍，不是算法的选择或数据的使用（至少不只是），而是一个结构上的问题。硬件性能、（设备间）物理的联系（如互联网）及设备的耗能，是创建足够快人工智能的瓶颈。这也是我相信存在着如 Google Fiber 这样部门的原因，也是为什么量子计算正变得越来越相关的原因。量子计算允许我们以超高的速度进行运算（根据物理规则它会瞬间完成），而这在传统电脑上会耗费非常长的时间。它依靠量子力学的性质，基于传统计算机用二进制描述问题的想法。因此，据 Frank Chen（在 Andreessen Horowitz 的合伙人）称，晶体管、半导体及电子导体都将被量子比特所取代。量子比特由向量表示，这也意味着其运算律会不同于的传统的布尔代数规则。 一种对传统计算法和量子计算法区别的通俗比较，基于电话本问题（Phonebook Problem）。在电话本中搜寻号码，传统的方式是一条接着一条地搜索以最终找到匹配的号码。但基本的量子搜索算法（也被叫做 Grover's 算法）则依靠所谓的「量子叠加态」。它能一次性分析所有的元素并确定最可能的答案。 建造量子计算也许会是科学界革命性的突破，但 Chen 表示现在建造它是非常困难的。亟待解决问题包括：建造计算机的超导材料需要的高温，极短的贯通时间（Coherence Time）——这是量子计算机实际进行计算的时间窗口，单次计算所需的时间，以及正误答案之间的能量差过小难于被探测到。所有这些问题缩小了（量子计算机的）市场空间，并且只有小局部公司能够涉足量子计算领域：科技界的巨擘如 IBM 和 Intel 已经对其学习多年；创新公司如 D-Wave System（2013 年被谷歌收购）、Rigetti Computing、QxBranch、1Qbit、Post-Quantum、ID Quantique、Eagle Power Technologies、Qubitekk、QC Ware、Nano-Meta Technonoliges；还有奠定量子计算基础的 Cambridge Quantum Computing 有限公司。 13.生物机器人和纳米科技将是未来人工智能的应用方向。我们正见证着在人工智能和纳米机器人交叉领域，一些列令人震惊的发展。学习人员正致力于创造完全完全智能的装置，同时也在学习相关的结合体。他们甚至尝试研发出生物导线（一种由细菌制造的导线）及器官芯片（由人细胞制作的、人器官中起功能局部的微型模型，能够复制器官的局部功能；在该领域，Emulate 是最领先的公司）。生物机器人方面的学习同时也考验着着材料性能的极限。最近一种「软」机器人被制造出来，他只有软的构建。BAS Systems 公司也在推进计算的发展，正尝试研发一种「化学计算机」（Chemputer），一种能够使用先进化学过程以「生长」复杂电子系统的装置。 参考阅读 Kurakin， A.， Goodfellow， I. J.， Bengio， S. (2016). “Adversarial Examples in the Physical World”. Technical report， Google， Inc. Available at arXiv: 1607.02533. Lake， B. M.， Salakhutdinov， R.， Tenenbaum， J. B. (2015). “Human-level concept learning through probabilistic program induction”. Science， 350(6266): 1332–1338. Lake， B. M.， Ullman， T. D.， Tenenbaum， J. B.， Gershman， S. J. (2016). “Building Machines That Learn and Think Like People”. Available at arXiv:1604.00289. Lo， A. W. (2004). “The Adaptive Markets Hypothesis: Market Efficiency from an Evolutionary Perspective”. Journal of Portfolio Management 30: 15–29. Papernot， N.， McDaniel， P. D.， Goodfellow， I. J.， Jha， S.， Celik， Z. B.， Swami， A. (2016). “Practical black-box attacks against deep learning systems using adversarial examples”. CoRR， abs/1602.02697. Rosenberg， L. B. (2015). “Human Swarms， a real-time method for collective intelligence”. Proceedings of the European Conference on Artificial Life: 658–659. Rosenberg， L. B. (2016). “Artificial Swarm Intelligence， a Human-in-the-Loop Approach to A.I.”. Proceedings of the Thirtieth AAAI Conference on Artificial Intelligence (AAAI-16): 4381–4382. Simon， H. A. (1955). “A Behavioral Model of Rational Choice”. The Quarterly Journal of Economics， 69 (1): 99–118. 编辑:工智能电视新关于人工智能未来发展的十三点预测 | 责任编辑：虫子
