摘要：在底层的胶囊之后连接了层和层。胶囊效果的讨论在论文最后，作者们对胶囊的表现进行了讨论。他们认为，由于胶囊具有分别处理不同属性的能力，相比于可以提高对图像变换的健壮性，在图像分割中也会有出色的表现。
背景
目前的神经网络中，每一层的神经元都做的是类似的事情，比如一个卷积层内的每个神经元都做的是一样的卷积操作。而Hinton坚信，不同的神经元完全可以关注不同的实体或者属性，比如在一开始就有不同的神经元关注不同的类别（而不是到最后才有归一化分类）。具体来说，有的神经元关注位置、有的关注尺寸、有的关注方向。这类似人类大脑中语言、视觉都有分别的区域负责，而不是分散在整个大脑中。
为了避免网络结构的杂乱无章，Hinton提出把关注同一个类别或者同一个属性的神经元打包集合在一起，好像胶囊一样。在神经网络工作时，这些胶囊间的通路形成稀疏激活的树状结构（整个树中只有部分路径上的胶囊被激活），从而形成了他的Capsule理论。值得一提的是，同在谷歌大脑（但不在同一个办公室）的Jeff Dean也认为稀疏激活的神经网络是未来的重要发展方向，不知道他能不能也提出一些不同的实现方法来。
Capsule这样的网络结构在符合人们“一次认知多个属性”的直观感受的同时，也会带来另一个直观的问题，那就是不同的胶囊应该如何训练、又如何让网络自己决定胶囊间的激活关系。Hinton这篇论文解决的重点问题就是不同胶囊间连接权重（路由）的学习。
解决路由问题
首先，每个层中的神经元分组形成不同的胶囊，每个胶囊有一个“活动向量”activity vector，它是这个胶囊对于它关注的类别或者属性的表征。树结构中的每个节点就对应着一个活动的胶囊。通过一个迭代路由的过程，每个活动的胶囊都会从高一层网络中的胶囊中选择一个，让它成为自己的母节点。对于高阶的视觉系统来说，这样的迭代过程就很有潜力解决一个物体的部分如何层层组合成整体的问题。
对于实体在网络中的表征，众多属性中有一个属性比较特殊，那就是它出现的概率（网络检测到某一类物体出现的置信度）。一般典型的方式是用一个多带带的、输出0到1之间的回归单元来表示，0就是没出现，1就是出现了。在这篇论文中，Hinton想用活动向量同时表示一个实体是否出现以及这个实体的属性。他的做法是用向量不同维度上的值分别表示不同的属性，然后用整个向量的模表示这个实体出现的概率。为了保证向量的长度，也就是实体出现的概率不超过1，向量会通过一个非线性计算进行标准化，这样实体的不同属性也就实际上体现为了这个向量在高维空间中的方向。
采用这样的活动向量有一个很大的好处，就是可以帮助低层级的胶囊选择自己连接到哪个高层级的胶囊。具体做法是，一开始低层级的胶囊会给所有高层级的胶囊提供输入；然后这个低层级的胶囊会把自己的输出和一个权重矩阵相乘，得到一个预测向量。如果预测向量和某个高层级胶囊的输出向量的标量积更大，就可以形成从上而下的反馈，提高这两个胶囊间的耦合系数，降低低层级胶囊和其它高层级胶囊间的耦合系数。进行几次迭代后，贡献更大的低层级胶囊和接收它的贡献的高层级胶囊之间的连接就会占越来越重要的位置。
在论文作者们看来，这种“一致性路由”（routing-by-agreement）的方法要比之前较大池化之类只保留了一个最活跃的特征的路由方法有效得多。
网络构建
作者们构建了一个简单的CapsNet。除最后一层外，网络的各层都是卷积层，但它们现在都是“胶囊”的层，其中用向量输出代替了CNN的标量特征输出、用一致性路由代替了较大池化。与CNN类似，更高层的网络观察了图像中更大的范围，不过由于不再是较大池化，所以位置信息一直都得到了保留。对于较低的层，空间位置的判断也只需要看是哪些胶囊被激活了。
这个网络中最底层的多维度胶囊结构就展现出了不同的特性，它们起到的作用就像传统计算机图形渲染中的不同元素一样，每一个胶囊关注自己的一部分特征。这和目前的计算机视觉任务中，把图像中不同空间位置的元素组合起来形成整体理解（或者说图像中的每个区域都会首先激活整个网络然后再进行组合）具有截然不同的计算特性。在底层的胶囊之后连接了PrimaryCaps层和DigitCaps层。
实验结果
由于胶囊具有新的特性，所以文中的实验结果也并不只是跑跑Benchmark而已，还有很多对胶囊带来的新特性的分析。
数字识别
首先在MNIST数据集上，经过三次路由迭代学习、层数也不算多的CapsNet就得到了优秀的错误率。
同时，作者们依据CapsNet中的表征对“网络认为自己识别到”的图像进行重构，表明在正确识别的样本中（竖线左侧），CapsNet可以正确识别到图像中的细节，同时降低噪声。
健壮性
由于网络结构中DigitCaps部分能够分别学到书写中旋转、粗细、风格等变化，所以对小变化的健壮性更好。在用一个随机抹黑过数字的MNIST数据集训练CapsNet后，作者们用它来识别affNIST数据集。这个数据集中的样本都是经过小幅度变化后的MNIST样本，变化后的样本如下图。这个CapsNet直接拿来识别affNIST的正确率有79%；同步训练的、参数数目类似的CNN只有66%。
分割高度重合的数字
作者们把MNIST数据集中的数字两两叠在一起建立了MultiMNIST数据集，两个数字的边框范围平均有80%是重合的。CapsNet的识别结果高于CNN基准自不必提，但作者们接下来做的图形分析中清晰地展现出了胶囊的妙处。
如图，作者们把两个激活程度较高的胶囊对应的数字作为识别结果，据此对识别到的图像元素进行了重构。对于下图中识别正确的样本（L指真实标签，R指激活程度较高的两个胶囊对应的标签），可以看到由于不同的胶囊各自工作，在一个识别结果中用到的特征并不会影响到另一个识别结果，不受重叠的影响（或者说重叠部分的特征可以复用）。
另一方面，每个胶囊还是需要足够多的周边信息支持，而不是一味地认为重叠部分的特征就需要复用。下图左图是选了一个高激活程度的胶囊和一个低激活程度胶囊的结果（*R表示其中一个数字既不是真实标签也不是识别结果，L仍然为真实标签）。可以看到，在（5，0）图中，关注“7”的胶囊并没有找到足够多的“7”的特征，所以激活很弱；（1，8）图中也是因为没有“0”的支持特征，所以重叠的部分也没有在“0”的胶囊中用第二次。
胶囊效果的讨论
在论文最后，作者们对胶囊的表现进行了讨论。他们认为，由于胶囊具有分别处理不同属性的能力，相比于CNN可以提高对图像变换的健壮性，在图像分割中也会有出色的表现。胶囊基于的“图像中同一位置至多只有某个类别的一个实体”的假设也使得胶囊得以使用活动向量这样的分离式表征方式来记录某个类别实例的各方面属性，还可以通过矩阵乘法建模的方式更好地利用空间信息。不过胶囊的研究也才刚刚开始，他们觉得现在的胶囊至于图像识别，就像二十一世纪初的RNN之于语音识别 —— 研究现在只是刚刚起步，日后定会大放异彩。
论文全文参见：https://arxiv.org/pdf/1710.09829.pdf
欢迎加入本站公开兴趣群商业智能与数据分析群
兴趣范围包括各种让数据产生价值的办法，实际应用案例分享与讨论，分析工具，ETL工具，数据仓库，数据挖掘工具，报表系统等全方位知识
QQ群：81035754
文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/4660.html
摘要：近日，该论文的一作终于在上公开了该论文中的代码。该项目上线天便获得了个，并被了次。 当前的深度学习理论是由Geoffrey Hinton大神在2007年确立起来的，但是如今他却认为，CNN的特征提取层与次抽样层交叉存取，将相同类型的相邻特征检测器的输出汇集到一起是大有问题的。去年9月，在多伦多接受媒体采访时，Hinton大神断然宣称要放弃反向传播，让整个人工智能从头再造。10月，人们关注已久...
摘要：而加快推动这一趋势的，正是卷积神经网络得以雄起的大功臣。卷积神经网络面临的挑战对的深深的质疑是有原因的。据此，也断言卷积神经网络注定是没有前途的神经胶囊的提出在批判不足的同时，已然备好了解决方案，这就是我们即将讨论的胶囊神经网络，简称。 本文作者 张玉宏2012年于电子科技大学获计算机专业博士学位，2009~2011年美国西北大学联合培养博士，现执教于河南工业大学，电子科技大学博士后。中国计...
摘要：没有继续完成学业，而是退了学，搬到了当时伦敦北部脏乱的伊斯灵顿区，成了一名木匠。于是，他决定辞职以表抗议，并随后搬到了加拿大，远离军事机构的资助。谷歌宣布旗下的无人驾驶汽车已经行驶了英里，没有发生一次意外。 英国《每日电讯报》打算用三篇报道，来描绘人工智能在加拿大多伦多的繁荣景象。本文是其中第一篇：The ‘Godfather of AI’ on making machines clever...
摘要：使用神经网络的思路被摧毁和抹黑，教授说，传统的模型得到了人们无疑的信赖。但终于，神经网络奏效了。 深度学习泰斗 Geoffrey Hinton 的名字在当今的人工智能研究界可谓是如雷贯耳，他曾发明了玻尔兹曼机（Boltzmann machine），也首先将反向传播（Backpropagation）应用于多层神经网络；不仅如此，他还有 Yann LeCun 和 Ilya Sutskever 等...
摘要：的研究兴趣涵盖大多数深度学习主题，特别是生成模型以及机器学习的安全和隐私。与以及教授一起造就了年始的深度学习复兴。目前他是仅存的几个仍然全身心投入在学术界的深度学习教授之一。 Andrej Karpathy特斯拉 AI 主管Andrej Karpathy 拥有斯坦福大学计算机视觉博士学位，读博期间师从现任 Google AI 首席科学家李飞飞，研究卷积神经网络在计算机视觉、自然语言处理上的应...
阅读 766·2023-04-25 15:13
阅读 1387·2021-11-22 12:03
阅读 815·2021-11-19 09:40
阅读 1896·2021-11-17 09:38
阅读 1700·2021-11-08 13:18
阅读 647·2021-09-02 15:15
阅读 1758·2019-08-30 15:54
阅读 2622·2019-08-30 11:12
