摘要：真可爱唯一的事情是，在大范围的智能中，所有人类，从村里的白痴到爱因斯坦，都在一个非常小的范围内所以刚刚击败村里的白痴水平并被宣布为后，它会突然比爱因斯坦更聪明，并且我们不知道是什么击败了我们那会发生什么。。。。。。
在某种程度上，我们将获得具有人类一般智能的AGI计算机后。只是一群人和计算机平等地生活在一起。
哦，实际上并不会。
问题是，AGI具有与人类相同的智能和计算能力水平，但仍然具有优于人类的优势。如：
硬件速度。大脑的神经元最大频率大约为200赫兹，而今天的微处理器（比我们达到AGI时慢得多）运行频率为2 GHz，比我们的神经元快1000万倍。大脑的内部通信速度可以达到120米/秒，但与计算机以光速进行光学通信的能力相比还是要慢得多。
尺寸和存储。大脑被我们头骨的形状限制住了它的大小，而且无论如何它都不会变大，或者120米/秒的内部通信需要很长时间才能从一个大脑结构到另一个大脑结构。计算机可以扩展到任何物理尺寸，允许更多的硬件投入工作，更大的工作内存（RAM）和长期内存（硬盘存储），它具有比我们自己更大的容量和精度。
可靠性和耐用性。不仅是计算机的记忆更精确。计算机晶体管比生物神经元更准确，并且它们不太可能恶化（并且如果它们退化了还可以被修复或替换）。人类的大脑也很容易疲劳，而计算机可以不间断运行，性能达到最佳状态的情况下可以每周7天每天24小时运行。
软件可编辑性，可升级性和更广泛的可能性。与人脑不同，计算机软件可以接收更新和修复，并且可以轻松地进行实验。升级也可能扩展人类大脑薄弱的领域。人类视觉软件非常先进，但其复杂的工程能力相当低。计算机可以在视觉软件匹配人类视觉，但也可以在工程和任何其他领域同样进行优化。
集体能力。人类在建立一个庞大的集体智慧时压倒了其他所有物种。从语言的发展和大型密集社区的形成开始，通过写作和印刷的发明，到现在通过互联网等工具得到加强，人类的集体智慧是我们能够远远超过所有其他物种的主要原因之一。计算机将比我们做的更好。运行特定程序的全球人工智能网络可以定期与自身同步，以便任何一台计算机学到的任何东西都可以立即上传到所有其他计算机。这个群体还可以作为一个单元来实现一个目标，因为没有不会像我们人类那样，存在不同的意见、动机和私利。
人工智能很可能通过编程进行自我提高而达到AGI，它不会将“人类水平的智能”视为一个重要的里程碑 - 从我们的角度讲，它只是一个相关标记 - 并且没有任何理由在达到我们的智力水平后“停止”。而且鉴于AGI相对于人类的优势，及时是与人类智力相当的AGI也会有优势，很明显它只能在短暂的时间内攻击人类智能，然后才能加速进入优于人类智能的领域。
当它发生时，可能会吓得我们屁滚尿流。原因在于，从我们的角度来看，A）虽然不同种类的动物的智力各不相同，但我们对任何动物的智力所了解的主要特征是它远低于我们的智力，B）我们认为最聪明的人比最笨的人聪明的多。有点像这样：
因此，当人工智能向我们的智能向上逼近时，我们会将其视为动物而言，它只是变得更聪明了。然后，当它达到人类最低的能力时 - 尼克博斯特罗姆使用“村里的白痴”了这一词 - 我们会说，“哇哦，这就像一个愚蠢的人类。真可爱！“唯一的事情是，在大范围的智能中，所有人类，从村里的白痴到爱因斯坦，都在一个非常小的范围内 - 所以刚刚击败村里的白痴水平并被宣布为AGI后，它会突然比爱因斯坦更聪明，并且我们不知道是什么击败了我们:
那会发生什么。。。。。。之后呢？
智力爆炸我希望你享受正常的时间，因为这是当这个话题变得不正常和可怕的时候，它会从这里继续前进。我想在这里暂停并提醒你，我要说的每一件事都是真实的科学，都是对未来的真实预测，这些预测来自一大批最受尊敬的思想家和科学家，请记住这一点。
无论如何，正如我上面所说，我们目前大多数的AGI的模型都是通过人工智能的自我改进来实现目标。一旦进入AGI时代，即使一些通过不涉及自我改进的方法形成和发展的系统现在也足够智能，如果他们愿意，就可以开始自我改进了。
在这里我们得到了一个强烈的概念：递归的自我改善。它的工作原理如下 -
在一定水平上的人工智能系统 - 比方说人类村庄的白痴 - 被编程的目标是提高自身的智能。一旦它做到了，它就会变得更聪明了 -也许在这一点上它已经处于爱因斯坦的水平 - 所以现在当它用爱因斯坦级别的智力改善自身智力时，会变得更加容易，它可以实现更大的飞跃。这些飞跃使它比任何人类都聪明得多，并允许它实现更大的飞跃。随着飞跃变得越来越高并且发生得越来越快，AGI在智能上飙升并很快达到ASI系统的超级智能水平。这被称为智力爆炸，并且它是加速回归法的最终例证。
关于人工智能将在多长时间内达到人类一般智能的问题还存在争议。对数百名科学家进行的一项调查显示，他们认为我们更有可能达到AGI的时候是2040年- 那是25年后，这听起来并不那么近，直到你认为很多在这一领域的思想家认为这很可能是真的，并且从AGI到ASI的进展情况非常迅速。这可能真的会发生：
第一个人工智能系统需要几十年才能达到低水平的一般智能，但它最终实现了。计算机能够像四岁的人类一样开始理解周围的世界。突然间，在达到这个里程碑的一个小时内，该系统推出了统一广义相对论和量子力学的宏观物理理论，这是人类无法确定到的事情。在那之后的90分钟，人工智能变成了ASI，比人类智能高出17万倍。
这种规模的超级智能远不是我们可以掌握的，不仅仅是一只大黄蜂无法理解凯恩斯主义经济学一样。在我们的世界中，聪明意味着智商为130，而愚蠢意味着智商为85 - 我们没有一个词形容12，952的智商。
我们所知道的是，人类在这个地球上的全面统治表明了一个明确的规则：智慧带来了力量。这意味着我们创造了一个ASI的时候，它将成为地球上生命历史中最强大的存在，包括人类在内的所有生物都将完全听从他的意愿 - 这很可能会在未来几十年内发生。
如果我们的大脑能够发明wifi，那么比我们聪明100倍或1000倍或10亿倍的东西应该没有任何问题在任何时候以任何方式控制世界上任何一个原子的位置 - 我们所有的一切考虑就像魔法，我们想象的这种力量是至高无上的神，对于我们来说，翻转灯开关对于ASI来说是一项平凡的活动。创造技术以扭转人类衰老，治愈疾病和饥饿甚至死亡，重新编程天气以保护地球上的生命的未来 - 所有这些问题都都突然变得可能实现。也有可能是地球上所有生命的直接结束。就我们而言，如果ASI成为现实，那么现在地球上就会有一位无所不能的上帝 - 对我们来说，最重要的问题是：
它会是一个好神么
人工智能革命：人类是永生还是灭亡，我们拭目以待。
文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/20047.html
摘要：由于这种现象，人工智能通常听起来像是一个神话般的未来预测而不是现实。有三种主要的人工智能能力类别类别弱人工智能有时被称为弱，弱人工智能是专门研究一个领域的人工智能。人工智能可以在国际象棋中击败世界象棋冠军，但这是它唯一能做到的。 showImg(http://upload-images.jianshu.io/upload_images/13825820-105b098e1bc42c85...
摘要：但牛津哲大学哲学家兼首席人工智能科学家认为，我们可以将所有的结果归纳为两大类。认为，物种不朽与物种灭绝同样具有吸引人的状态，即如果我们能做到这一点，我们将永远不受灭绝的影响我们将拥有战胜死亡的机会。 showImg(https://segmentfault.com/img/remote/1460000019316706); 我们面临着一个非常困难的问题，在一个未知的时间内来解决它，而人...
摘要：截至目前，人类大脑是已知宇宙中最复杂的物体。但是天河二号也是一个庞大的家伙，它占地平方米，使用兆瓦的电力大脑只需瓦，耗资亿美元建造。建议，通过查看可以以，美元购买多少来考虑计算机的状态。 showImg(http://upload-images.jianshu.io/upload_images/13825820-c158f685feaf8ae6.jpg?imageMogr2/auto-...
摘要：为什么未来可能是我们最糟糕的噩梦我想要了解人工智能的原因之一是坏机器人的主题总是让我感到困惑。没有那个人工智能系统会像电影描述的那样变的邪恶。意识盒子他还触及了另一个与人工智能意识相关的大话题。这并不是说人工智能不可能发生。 为什么未来可能是我们最糟糕的噩梦 我想要了解人工智能的原因之一是坏机器人的主题总是让我感到困惑。关于邪恶机器人的所有电影看起来都是不切实际的，我无法真正理解人工智...
摘要：对年奇点的描述是由生物技术，纳米技术以及最强大的人工智能领域同时发生的三场革命引起的。如果人类是巨大的巨人，头部可以达到国际空间站，它们将比现在大万倍。 为什么未来会是我们最大的希望 当我了解人工智能的世界时，我发现有很多人站在这里： showImg(https://segmentfault.com/img/remote/1460000019330911); 在自信角落里面的人们兴奋地...
阅读 2290·2021-11-15 11:38
阅读 2411·2021-11-15 11:37
阅读 2515·2021-08-24 10:00
阅读 2883·2019-08-30 15:56
阅读 1237·2019-08-30 15:53
阅读 3671·2019-08-29 18:43
阅读 2903·2019-08-29 17:01
阅读 3230·2019-08-29 16:25
