摘要:一维卷积常用于序列模型,自然语言处理领域。三维卷积这里采用代数的方式对三维卷积进行介绍,具体思想与一维卷积二维卷积相同。
由于计算机视觉的大红大紫,二维卷积的用处范围最广。因此本文首先介绍二维卷积,之后再介绍一维卷积与三维卷积的具体流程,并描述其各自的具体应用。
1、二维卷积
• 图中的输入的数据维度为 14 × 14 ,过滤器大小为 5 × 5,二者做卷积,输出的数据维度为 10 × 10( 14 − 5 + 1 = 10 )。
• 上述内容没有引入channel的概念,也可以说channel的数量为1。如果将二维卷积中输入的channel的数量变为3,即输入的数据维度变为(14 × 14 × 3)。由于卷积操作中过滤器的 channel 数量必须与输入数据的channel数量相同,过滤器大小也变为 5 × 5 × 3 。在卷积的过程中,过滤器与数据在 channel 方向分别卷积,之后将卷积后的数值相加,即执行 10 × 10 次3个数值相加的操作,最终输出的数据维度为 10 × 10 。
• 以上都是在过滤器数量为1的情况下所进行的讨论。如果将过滤器的数量增加至16,即16个大小为10 × 10 × 3 的过滤器,最终输出的数据维度就变为10 × 10 × 16 。可以理解为分别执行每个过滤器的卷积操作,最后将每个卷积的输出在第三个维度(channel 维度)上进行拼接。
• 二维卷积常用于计算机视觉、图像处理领域。
2、一维卷积
• 图中的输入的数据维度为8,过滤器的维度为5。与二维卷积类似,卷积后输出的数据维度为8−5+1=48−5+1=4。
• 如果过滤器数量仍为1,输入数据的channel数量变为16,即输入数据维度为 8 × 16 。这里channel的概念相当于自然语言处理中的embedding,而该输入数据代表8个单词,其中每个单词的词向量维度大小为16。在这种情况下,过滤器的维度由5变为 5 × 16 ,最终输出的数据维度仍为 4 。
• 如果过滤器数量为 n,那么输出的数据维度就变为 4 × n。
• 一维卷积常用于序列模型,自然语言处理领域。
3、三维卷积
这里采用代数的方式对三维卷积进行介绍,具体思想与一维卷积、二维卷积相同。
• 假设输入数据的大小为 a1 × a2 × a3,channel数为 c,过滤器大小为
f,即过滤器维度为 f × f × f × c(一般不写 channel 的维度),过滤器数量为 n。
• 基于上述情况,三维卷积最终的输出为 ( a1 − f + 1 ) × ( a2 − f + 1 ) × ( a3 − f + 1 ) × n 。该公式对于一维卷积、二维卷积仍然有效,只有去掉不相干的输入数据维度就行。
• 三维卷积常用于医学领域(CT影响),视频处理领域(检测动作及人物行为)。
欢迎加入本站公开兴趣群商业智能与数据分析群
兴趣范围包括各种让数据产生价值的办法,实际应用案例分享与讨论,分析工具,ETL工具,数据仓库,数据挖掘工具,报表系统等全方位知识
QQ群:81035754
文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。
转载请注明本文地址:https://www.ucloud.cn/yun/4764.html
摘要:本论文将尝试概述卷积网络的架构,并解释包含激活函数损失函数前向传播和反向传播的数学推导。本文试图只考虑带有梯度下降优化的典型卷积神经网络架构的制定。 近日南洋理工大学研究者发布了一篇描述卷积网络数学原理的论文,该论文从数学的角度阐述整个卷积网络的运算与传播过程。该论文对理解卷积网络的数学本质非常有帮助,有助于读者「徒手」(不使用卷积API)实现卷积网络。论文地址:https://arxiv....
摘要:在图像分析中,卷积神经网络在时间和内存方面优于全连接网络。这是为什么呢卷积神经网络优于全连接网络的优势是什么呢卷积神经网络是如何从全连接网络中派生出来的呢卷积神经网络这个术语又是从哪里而来这些问题在本文中一一为大家解答。 在图像分析中,卷积神经网络(Convolutional Neural Networks, CNN)在时间和内存方面优于全连接网络(Full Connected, FC)。这...
摘要:卷积满足交换操作,因此在一般的维空间输入,自编码可以被用来训练解码编码。事实上,解码卷积的超参数是由编码框架确定的由于卷积跨越每个特征图,并且产生具有的维度,因此经过滤波器之后产生相同的空间范围。 作者:chen_h微信号 & QQ:862251340微信公众号:coderpai简书地址:https://www.jianshu.com/p/ec4... 这篇教程是翻译Paolo Ga...
阅读 998·2019-08-30 15:55
阅读 3439·2019-08-30 13:10
阅读 1267·2019-08-29 18:45
阅读 2346·2019-08-29 16:25
阅读 2106·2019-08-29 15:13
阅读 2421·2019-08-29 11:29
阅读 551·2019-08-26 17:34
阅读 1485·2019-08-26 13:57