Theano - Numpy 新手

wangxinarhat 发布于2019-07-25 12:01 / 2166人阅读

摘要：机器学习中的矩阵公约水平方向为矩阵的行，竖直方向为矩阵的列，每一行为一个样例记录。因此输入表示由个样例记录，每个样例具有个维度属性组成的矩阵。如果为一个神经网络的输入，那么权重矩阵的表示形式为的矩阵。

机器学习中的矩阵公约

水平方向为矩阵的行，竖直方向为矩阵的列，每一行为一个样例（记录）。因此输入[10, 5]表示：由10个样例（记录），每个样例具有5个维度（属性）组成的矩阵。如果[10,5]为一个神经网络的输入，那么权重矩阵的表示形式为[5, #hid]的矩阵。
考虑一下数组：

import numpy as np
np.asarray([[1., 2], [3, 4], [5, 6]])
np.asarray([[1., 2], [3, 4], [5, 6]]).shape

# 这是一个3*2的矩阵，即有3行2列
# 输出矩阵的第3行，第1列元素
np.asarray([[1., 2], [3, 4], [5, 6]])[2, 0]

广播(broadcasting)

Numpy 在对不同形状的数组进行数学运算时进行广播。通俗的意思就是：较小的数组或标量将会被广播（扩展）形成一个较大尺寸的数组，得到相匹配的形状。
例如：

import numpy as np
a = np.asarray([1.0, 2.0, 3.0])
b = 2.0
a * b   # array([2., 4., 6.])
# 较小尺寸的b在a*b运算期间，被扩展为和a同样尺寸的数组array([2., 2., 2.])
# 这样极大地简化了b的书写，用标量2.0代替array([2.0, 2.0, 2.0])。

文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。

转载请注明本文地址：https://www.ucloud.cn/yun/38636.html

Theano - 循环

摘要：复发的一种常用形式，可以用于循环和是的特例可以根据一些输出序列一个函数，每一步都会生成一个输出可以查看之前步的输出给定一个初始状态可以通过函数计算一个列表的和通常一个循环可以用操作符进行实现使用的优点迭代次数为符号图的一部分最大限度地减少传 Scan 复发(Recurrence)的一种常用形式，可以用于循环(looping) Reduction和map是scan的特例可以根据一些输...

import. 2019-07-25 12:03 评论0 收藏0
Deep learning：四十二(Denoise Autoencoder简单理解)

摘要：本篇博文主要是根据的那篇文章简单介绍下，然后通过个简单的实验来说明实际编程中该怎样应用。当然作者也从数学上给出了一定的解释。自顶向下的生成模型观点的解释。信息论观点的解释。前言：　　当采用无监督的方法分层预训练深度网络的权值时，为了学习到较鲁棒的特征，可以在网络的可视层（即数据的输入层）引入随机噪声，这种方法称为Denoise Autoencoder(简称dAE)，由Bengio在08年...

gotham 2019-04-25 17:57 评论0 收藏0
Theano - 广播(broadcasting)

摘要：广播广播是这样的一个机制它允许不同维度的张量进行加法或者乘法运算。如上图，广播一个行矩阵。和分别表示和指明沿着哪个维度可以进行广播。如果第二个参数是向量，它的形状为，以及它的广播模式为。当可用的时候，广播信息将会以变量的类型给出。广播（Broadcasting) 广播是这样的一个机制：它允许不同维度的张量进行加法或者乘法运算。在运算时，他将会沿着维度缺失的方向复制较小的那个张量。通...

whjin 2019-07-25 12:03 评论0 收藏0