人工智能革命：人类会永生还是灭亡（中）

摘要：对年奇点的描述是由生物技术，纳米技术以及最强大的人工智能领域同时发生的三场革命引起的。如果人类是巨大的巨人，头部可以达到国际空间站，它们将比现在大万倍。

当我了解人工智能的世界时，我发现有很多人站在这里：

在自信角落里面的人们兴奋地嗡嗡作响。他们把目光投向了平衡木的乐趣的一面，他们确信这就是我们所有人的目标。对他们来说，未来就是他们所希望的一切。

这些人与我们后面讨论的其他思想家的不同之处在于，并不是他们对幸福生活的欲望，而是他们相信这就是我们未来生活的方向。

这种信心从何而来还有待商榷。批评人士认为，它来自于一种令人眼花缭乱的兴奋，以至于他们忽略或否认潜在的负面结果。但是相信这一观点的人表示，如果设想世界末日的情景是天真的，那么技术在接下来肯定会帮助我们，而不是伤害我们。

Nick Bostrom描述了超级人工智能系统的三种功能:

作为一个回答者，几乎可以准确回答任何问题，包括人类无法轻易回答的复杂问题 - 即如何制造更高效的汽车发动机？谷歌就是一种原始的回答者。

作为一个执行者，执行给出的任何高级指令 - 使用一个分子汇编程序来构建一种新的、更高效的汽车引擎 - 然后等待它的下一个命令。

作为一个自由者，它被赋予了广泛而开放的追求并被允许在世界上自由运作，自己决定如何最好地选择 - 发明一种比人类汽车更快，更便宜，更安全的方式供人类自己出行使用。

这些问题和任务对我们来说似乎很复杂，听但是对一个超级智能系统来说就像有人要求你解决“我的铅笔从桌子上掉下来”的问题，你可以轻松的将铅笔从地上捡起来。

在自信角落里有很多热切的科学家，发明家和企业家 - 但是为了参观人工智能中最光明的一面，我们需要一个人作为我们的导游。

Ray Kurzweil是非常两极分化的。在我的阅读中，我听到了一切，从神的崇拜、他的想法以及鄙视的事务。其他人在作家Douglas Hofstadter的某书中讨论Kurzweil的想法时，雄辩地提出“就好像你吃了很多非常好的食物和一些狗屎并将它们混合起来这样你就不能分辨出来什么是好什么是坏“

无论你是否喜欢他的想法，大家都任务Kurzweil的观点令人印象深刻。他在青少年时期发明东西，在接下来的几十年里，他想出了几项突破性的发明，包括第一台平板扫描仪，第一台将文本转换为语音的扫描仪（允许盲人阅读标准文本），著名的Kurzweil音乐合成器（第一个真正的电子琴），以及第一个商业营销词汇量语音识别。他是五本全国畅销书的作者。他以其大胆的预测而闻名，并且在实现这些预测方面有这良好的记录 - 包括他在80年代后期的预测，当时互联网是一个不起眼的东西，到21世纪初，它才成为一种全球现象。Kurzweil被华尔街日报称为“永不停歇的天才”，被福布斯称为“终极思考机器”，被Inc杂志称为“爱迪生的合法继承人”，以及比尔盖茨口中的“我所知道的预测人工智能未来的最佳人选”。2012年，谷歌联合创始人Larry Page找到了Kurzweil并要求他担任谷歌工程总监。 2011年，他与人共同创办了奇点大学，由NASA主办，谷歌赞助，对于一个人来说这样的一生还不错。

他的这本传记很重要。当Kurzweil阐述他对未来的看法时，他听起来完全像个疯子，而疯狂的是，他不是一个疯子 - 他是一个非常聪明，知识渊博，与世界息息相关的人。你可能认为他对未来的看法不对，但他并不傻。知道他是一个正人君子让我很开心，因为当我了解到他对未来的预测时，我非常希望他是对的。你也一样。当你听到Kurzweil的预测时，很多在自信角落里面思考的如Peter Diamandis和Ben Goertzel这样的人都会赞同他的观点，不难看出为什么他有如此多的，热情的追随者 - 这些追随者被称为奇点主义者。

以下是他认为会发生的事情：

Kurzweil认为计算机将在2029年达到AGI，到2045年，我们不仅会有ASI，而且还会拥有一个全新的世界 - 他称之为奇点。他的人工智能相关时间表在过去被认为过分狂热，但现在被大多数人认为就应该这样，但在过去的15年，ANI系统的快速发展让更大范围内的人工智能更接近Kurzweil的时间表。他的预测仍然比穆勒和博斯特罗姆调查的中位数受访者（2040年拥有AGI，2060年拥有ASI）更加雄心勃勃，但是并没有那么多。

Kurzweil对2045年奇点的描述是由生物技术，纳米技术以及最强大的人工智能领域同时发生的三场革命引起的。

在我们继续前进之前，纳米技术几乎出现在你所读到的有关人工智能未来的所有内容中，所以我们接下来进入纳米技术的部分，对它进行一些讨论

纳米技术指的是处理涉及操纵尺寸在1到100纳米之间的物质。纳米是米的十亿分之一，或毫米的百万分之一，DNA（10纳米宽），DNA（10纳米宽），以及像血红蛋白（5纳米）这样的大分子和中等分子如葡萄糖（1 nm）。如果/当我们征服纳米技术时，下一步将是操纵单个原子的能力，这些原子将比纳米小一个数量级（~1nm）

为了理解人类试图操纵该范围内的物质所面临的挑战，让我们在更大范围内采取相同的措施。国际空间站距离地球268英里（431公里）。如果人类是巨大的巨人，头部可以达到国际空间站，它们将比现在大25万倍。如果你将1nm - 100nm纳米技术范围扩大250，000倍，你会得到0。25毫米--2。5厘米。因此，纳米技术相当于一个像国际空间站一样高大的人类巨人，如何使用一粒沙粒和一个眼球之间的材料仔细地建造复杂的物体。为了达到下一级操纵单个原子 - 巨人必须仔细定位1/40毫米的物体 - 如此小的物体需要正常尺寸的人用显微镜才能看到它们。

Richard Feynman在1959年的一次谈话中首次讨论了纳米技术，他解释说：“就我所见，物理学原理并不反对以原子为单位操纵物质的可能性。原则上，物理学家合成化学家写下的任何化学物质都是可能的。“就这么简单。如果你能弄清楚如何移动单个分子或原子，你可以做任何事情。

纳米技术于1986年首次成为一个严肃的领域，当时工程师Eric Drexler在他的开创性著作《Engines of Creation》中提供了基础，但Eric Drexler建议那些希望了解纳米技术最现代想法的人，最好读一读他2013年的著作《Radical Abundance》

灰色粘性

我们现在讨论一下有趣的灰色粘性。

无论如何，我把你们带到了这里，是因为我需要告诉你关于纳米技术传说中的不可思议的部分。在纳米技术理论的旧版本中，提出的纳米组装方法涉及创建数万亿个微小的纳米机器人，这些微型纳米机器人可以协同工作来构建某种东西。创造数万亿纳米机器人的一种方法是制造一个可以自我复制的纳米机器人，然后让复制过程将一个变为两个，然后将这两个变成四个，四个变成八个，并且在大约一天内，就会有他们准备好了几万亿。这是指数增长的力量。非常聪明，对吗？

这是很聪明的，直到它导致了宏大的完整的地球范围内的大灾难意外。问题在于，指数增长的能力使得快速创建万亿纳米机器人变得非常方便，这也使得自我复制成为一个可怕的前景。因为如果系统出现故障，当总数达成预期的数量时，并没有启动停止程序，那么它们只会继续复制。纳米机器人将被设计为消耗任何碳基材料以供给复制过程，并且令人不快地，所有生命都是基于碳基的。地球的生物量含有约1045个碳原子。纳米机器人将由约106个碳原子组成，因此1039 个碳原子纳米机器人将消耗地球上的所有生命，这将在130次重复中发生（2 130次约为10 39次），因为大量的纳米机器人在地球上滚动。科学家认为纳米机器人可以在大约100秒内复制，这意味着这个简单的错误会在3。5小时内简单地终止地球上的所有生命。

更糟糕的情况 - 如果一个恐怖分子以某种方式获得了纳米机器人的技术并拥有编程技术，他可以制作最初的几万亿，然后安排他们悄悄地花几周时间在全世界范围内均匀地传播。然后，他们一下子全部开工，只需要90分钟就可以消耗所有东西 - 而且随着它们全部散开，我们将没有办法打击它们。

虽然这个恐怖故事一直被广泛讨论，但好消息是它可能被夸大了 - 创造了“灰色粘性”一词的Eric Drexler在这篇帖子后给我发了一封电子邮件，上面写着他对灰色粘性剧情的看法：人们喜欢恐怖故事，而这个想法就是一个来自大脑的恐怖故事。

一旦我们真正得到纳米技术，我们可以用它来制造技术设备，服装，食品，各种生物相关产品 - 人造血细胞，微型病毒或癌细胞破坏者，肌肉组织等等 - 任何存在的的东西。在一个使用纳米技术的世界中，材料的成本不再与其稀缺性或制造工艺的难度联系在一起，而是由其原子结构的复杂程度决定。在纳米技术领域，钻石可能比铅笔橡皮擦便宜。

我们还没有到那一步。目前尚不清楚我们是否低估或过高估计到达这一目标会有多困难。但我们似乎距离目标并没有那么遥远。Kurzweil预测，到2020年我们将实现这一目标。各国政府都知道纳米技术可能是一个惊天动地的发展，他们已投入数十亿美元用于纳米技术研究（迄今为止，美国，欧盟和日本已投资超过50亿美元）。

仅仅考虑到超级智能计算机可以访问强大的纳米级汇编程序的可能性很大，就已经很让人紧张了。但纳米技术是我们提出来的，我们正处于获得这项技术的边缘，而且由于我们所能做的任何事情都是对ASI系统的一个笑话，我们必须假设ASI会提出更强大的技术。我们的大脑要这么去理解。出于这个原因，当考虑“如果人工智能革命对我们来说是好是坏的”情景时，我们几乎不可能高估可能发生的范围 - 所以如果以下对ASI未来的预测看起来言过其实的话，请记住，他们可以用我们无法想象的方式完成。而且最有可能的是，我们的大脑无法预测将会发生的事情。

拥有了超级智能和所有的技术，超级智能将明白如何创建ASI，并解决人类的每一个问题。全球暖化？ASI首先提出更好的方法来生产与化石燃料无关的能源，从而阻止二氧化碳的排放。然后，它可以创建一些方法开始移除大气中多余的二氧化碳。癌症和其他疾病？ASI来说没有任何问题会发生超乎想象的革命性变化。世界饥饿？ASI可以使用纳米技术等技术从无到有的制造出分子与真正的肉完全相同结构的东西，换句话说他们就是真正的肉。纳米技术还可以将一堆垃圾编程一个巨大的桶，里面装满了新鲜的肉类或其他食物（这些食物不需要有正常的形状-比如一个巨大的立方体苹果） - 并使用超先进的运输方式将所有这些食物分配到世界各地。当然，对于不再需要被人类杀死的动物来说，这也是非常好的，ASI可以做很多其他事情来拯救濒临灭绝的物种，甚至通过保存DNA的工作来拯救灭绝的物种。ASI甚至可以解决我们最复杂的宏观问题 - 我们关于如何运行经济以及如何最好地促进世界贸易的辩论，甚至是我们在哲学或道德方面最模糊的争论 - 对于ASI来说都是非常明显的。

但有一件事，我认为它对他们是那么的诱人，我所认知的一切都被它给改变了：

几个月前，我提到了我对更先进的潜在文明的季度，他们已经战胜了自己的死亡，但我从未考虑过我后来会写了一篇文章，真正的让我相信这是人类在我的有生之年中可以做的事情的帖子。但阅读人工智能的有关书籍会让你重新考虑你认为确定的一切 - 包括你对死亡的概念。

进化没有充分理由来延长我们的寿命，使我们的寿命比现在更长。如果我们活得足够长，可以繁殖并照顾我们的孩子到一个他们可以照顾自己的年龄，从进化的角度来看这就足够了 - 从进化的角度来看，这个物种可以茁壮成长到30多年的寿命，因此在自然选择过程中没有理由会受到青睐突变异常寿命。因此，我们就像WB Yeats所描述的那样，“一个与濒死动物紧密相连的灵魂。” 没那么有趣。

因为每个人都会死，我们生活在“死亡与税收”的假设之下，死亡是不可避免的。我们认为老化就像时间一样 - 都在不断的向前运动，你无力阻止它们。但这种假设是错误的。Richard Feynman写道：

在所有的生物科学中，没有关于死亡必然性的线索，这是最值得注意的事情之一。如果你说我们想做永动机，但我们在学习物理的过程中已经发现了足够多的定律，这些定律要么是不可能的，要么是错的。但是生物学中没有任何证据可以表明了死亡的必然性。这对我来说，这根本不是不可避免的，生物学家发现导致我们麻烦是什么只是一个时间问题，人类身体上的这张可怕的疾病或着是暂时性的疾病将会被治愈。

事实上，衰老并不是一成不变的。时间将继续前进，但衰老并不一定会继续。仔细想想，这是有道理的。所有的老化都是身体物质的磨损。随着时间的推移汽车也会磨损 - 但它的老化是不可避免的吗？如果汽车其中一个零件开始磨损但是如果你能完美的修理或更换汽车的零件那么汽车将永远运行下去。人体没有任何不同 - 只是复杂得多。

Kurzweil谈到了血液中智能wifi连接的纳米机器人，他们可以为人类健康执行无数任务，包括定期修复或更换身体任何部位的磨损细胞。如果完善，这个过程（或ASI会提出更智能的一个过程）不仅可以保持身体健康，还可以逆转衰老。一个60岁的身体和一个30岁的身体之间的区别只是一堆物理的东西，如果我们有这项技术可以改变这些东西。ASI可以建立一个60岁的老人可以走进去的“年龄清洗剂，他们会带着30岁的身体和皮肤走出来。即使是那些迷迷糊糊的大脑也可以被ASI这样智能的设备所刷新来回复活力，ASI会在不影响大脑数据（个性，记忆等）的情况下弄清楚如何做到这一点。患有老年痴呆症的90岁患者可能会进入返老还童阶段，并且能够以全新的姿态出现，准备开始一段全新的生涯。这看起来很荒谬 - 但身体只是一堆原子，ASI可能很容易操纵各种原子结构 - 所以这并不荒谬。

Kurzweil将事情向前推进了一大步。他认为，随着时间的推移，人造材料将越来越多地融入身体。首先，器官可以被超级先进的机器版本取代，这些机器版本将永远运行并且永不失败。然后他认为我们可以开始重新设计身体，例如用完善的红细胞纳米机器人替换红血细胞，这些机器人可以为自己的运动提供动力，根本不需要心脏。他甚至可以进入大脑增强我们的大脑活动，使人类能够比现在更快地思考数能力的十亿倍并访问外部信息，因为大脑的人工智能可以添加云中的所有信息。

人类新体验的可能性将是无穷无尽的。人类将性与其目的分开，允许人们为了乐趣而进行性行为，而不仅仅是为了繁衍后代。Kurzweil相信我们能够对食物做同样的事情。纳米机器人将负责为身体细胞提供完美的营养，智能地指导任何不健康的事物通过身体而不会影响任何事物。就好像一个万能的避孕套。纳米技术理论家Robert A。 Freitas已经设计了一种血细胞替代品，如果有一天在体内实施，将允许人类在不呼吸的情况下冲刺15分钟 - 所以你只能想象ASI可以为我们的身体能力做些什么。虚拟现实将呈现一种新的意义-体内的纳米机器人可以抑制来自我们感官的输入，并用信号取代它们，让我们完全进入一个新的环境，一个我们可以看到，听到，感觉到和闻到的新环境。

Kurzweil认为，人类最终能够达到完全人工的程度;当我们看到生物材料的时候，我们回想到人类曾经是多么原始，多么的难以置信 ; 当我们读到人类历史的早期阶段时，微生物或事故或疾病或人体磨损可能会违背自己的意愿杀死人类; 人工智能革命可能随着人类和人工智能的融合来结束。这就是Kurzweil认为人类将最终征服我们的生物学并变得坚不可摧和永恒的方式 - 这是他对平衡木另一侧的愿景。而且他确信我们很快就可以成功的。

当你发现Kurzweil的想法引起了很多批评时，你不会感到惊讶。他对2045年的奇点以及其后人类达到永生的可能性预测被嘲笑为“书呆子的狂喜”或“140智商的智能设计”。其他人质疑他乐观的时间表，或者他对大脑和身体的理解，或他对Moore’s law定律模式的应用，Moore’s law定律模式通常应用于硬件的进步，包括软件在内的广泛的事物。对于每一位狂热相信Kurzweil正确的专家来说，可能有三个人认为他错了。

但令我惊讶的是，大多数不同意他的专家并不是真正的反对他所说的一切都是可能的。读到如此一个对未来的古怪愿景，我原以为他的批评者会说，“显然，这些事情是不会发生的”，但他们说的话，“是的，如果我们安全地过渡到ASI，所有的这一切都会发生，但这是最难的部分。“Bostrom是警告我们人工智能危险的最突出的声音之一，但他仍然承认：

很难想象一个超级智能无法解决或至少不能帮助我们解决任何问题。疾病，贫困，环境破坏，各种不必要的痛苦：这些是配备先进纳米技术的超级智能能够消除的东西。此外，超级智能可以通过使用纳米医学来阻止和逆转衰老过程，或者为我们提供上传自己的选项，从而为我们提供无限期的生命。超级智能也可以为我们创造机会，大大增加我们自己的智力和情感能力，它可以帮助我们创造一个极具吸引力的体验世界，在这个世界中，我们可以过着充满快乐的游戏生活，彼此相关，体验，个人成长，更贴近我们的理想。

这是一个焦虑角落的人的说的一句话，但这就是我一直遇到的 - 专家们嘲笑Kurzweil有很多原因，但他们并不认为他所说的是不可能的，如果我们能够安全的到达ASI。这就是为什么我发现Kurzweil的想法如此具有感染力的原因-因为他阐述了这个故事光明的一面，也因为实际上他们是可能的，如果这是一个好神的话。

我听到有关自信角落的思想家的最著名的批评是，他们在评估ASI的不利方面可能是危险的错误。Kurzweil著名的书“ The Singularity is Near” 长达700多页，他将这些页面中的大约20页用于潜在的危险。我之前说过，当这种巨大的新力量诞生时，我们的命运取决于谁将控制这种力量以及他们的动机将是什么。Kurzweil巧妙地用一句话回答了这两个问题，“ASI正在从许多不同的努力中产生，并将深深融入我们文明的基础设施中。实际上，它将深入地嵌入我们的身体和大脑中。因此，它将反映我们的价值观，因为它就是我们自己。“

但如果这就是答案，为什么这么多世界上最聪明的人现在如此担心呢？Stephen Hawking为什么说ASI的发展“可能意味着人类的终结”，Bill Gates说他不“理解为什么有些人不关心”，而Elon Musk则害怕我们“召唤恶魔”？那么为什么这么多专家就这个话题称ASI是对人类是最大的威胁？这些人，以及焦虑道路上的其他思想家，并没有相信Kurzwei对人工智能危险的拒绝。他们非常非常担心人工智能革命，他们并没有专注于平衡木的乐趣一面。他们太忙于盯着另一边，他们看到了一个可怕的未来，一个不确定我们能否逃脱的未来。

针对于未来人工智能对人类的好的一面就先到这里，系列文章的下篇将描述为什么人工智能在未来可能会是我们的噩梦，探讨了人工智能可能对人类的不好的一面，欢迎大家到时候继续观看。