神经网络神经网络可以通过使用torch.nn包进行构建 现在你粗略了解了autograd,nn依赖autograd去定义模型还有求微分。一个nn.Module含有很多层和forward(input)方法,forward方法返回outp...
深度学习入门笔记07
过拟合过拟合: 指的是只能拟合训练数据,但不能很好地拟合不包含在训练数据中的其他数据的状态。 发生过拟合的原因: 模型拥有大量参数、表现力强 训练数据少 以下是故意产生过拟合的代码 123456789101112131415161...
深度学习入门笔记06
参数更新这里就是将之前的权重更新的算法,封装成一个类。每个类里面都有一个update方法,这样往后如果需要修改更新权重的方法(SGD,Momentum,AdaGrad,Adm),直接更改对应类的对象即可。 e.g 12345678ne...
pytorch笔记02
pytorch自动微分torch.Tensor是包的核心类,有个属性.requires_grad设为True就会跟踪tensor所有操作。计算完成后调用backward()自动计算所有梯度。这个张量的梯度将累计到.grad属性中 调用...
深度学习入门笔记05
误差反向传播法计算图计算图:将计算过程用图形表达出来。 首先说下书上的例子: 问题1:太郎在超市买了2个100日元一个的苹果,消费税是10%,请计算支付金额。 相当简单的一道题, 2 100 1.1即可。计算图表示则是: 将x2...
深度学习入门笔记04
神经网络的学习这章主要讲的是函数斜率的梯度法 计算机视觉领域常用的特征量包括 SIFT、SURF、HOG等。 训练数据和测试数据训练数据和测试数据 : 首先使用训练数据进行学习,寻找最优的参数,然后使用测试数据评价训练得到的模型的实际...
pytorch入门笔记01
Pytorch 张量标量(0D)只包含一个元素的张量为标量。类型通常为FloatTensor或LongTensor 123import torchx = torch.rand(10)x.size() 向量(1D)12import to...
深度学习入门笔记03
输出层设计神经网络可以分为两类问题: 分类问题,回归问题 分类问题:属于哪一类问题。 (e.g 根据图片判断人物是男的还是女的) 回归问题:根据输入的值,预测数值问题。(e.g 根据图片预测这个人的身高体重) 恒等函数和softmax...
深度学习入门笔记02
神经网络一些概念 输入层:最左边的一列,用来输入数据的一层 输出层:最右边的一列,用来输出数据 隐藏层:中间层。 神经网络和感知机是相似的,二者最大的区别就在于激活函数。 激活函数先看一下之前感知机的函数式简单做下变形引入一个函数 h...
深度学习入门笔记01
感知机 笔记是学习《深度学习入门 基于python理论实践》记录的。由于会一些python基础,所以直接从第二章开始记起。 感知机概念 感知机接收多个输入信号,输出一个信号。 x1,x2是输入信号,w1,w2是权重...