要理解Pytorch求解梯度,首先需要理解Pytorch当中的计算图的概念,在计算图当中每一个Variable都代表的一个节点,每一个节点就可以代表一个神经元,我们只有将变量放入节点当中才可以对节点当中的变量求解梯度,假设我们有一个矩阵: 1., 2., 3. 4., 5., 6. 我们将这个矩阵( ...
分类:
其他好文 时间:
2020-04-11 13:21:45
阅读次数:
143
目录 RNN概述 RNN模型 RNN前向传播 RNN反向传播算法 其它RNN 一、RNN概述 RNN(Recurrent Neural Network)是一类用于处理序列数据的神经网络。 首先我们要明确什么是序列数据,摘取百度百科词条:时间序列数据是指在不同时间点上收集到的数据,这类数据反映了某一事 ...
分类:
其他好文 时间:
2020-04-08 20:58:51
阅读次数:
215
毕业设计的时间来了,想整点厉害的东西,最近机器学习的一些操作把我惊艳到了,我决定开发一个表情识别系统 首先是框架的决定,我最开始在网上搜都是tensorflow,后来才发现pytorch是现在的主流,但是没办法,选了就得认真学 这是官方的对于tensorflow的说法 TensorFlow? 是一个 ...
分类:
其他好文 时间:
2020-04-01 15:05:27
阅读次数:
64
KKT理解: https://www.cnblogs.com/pursued-deer/p/7858122.html Numpy : CNN训练相关: 贝塔和伽玛是网络学出来的 上一层的输出先求均值,在求方差,然后每个输出给它搞成正太分布 让一部分神经元随机失活 CNN推展案例: R-CNN FAS ...
分类:
其他好文 时间:
2020-03-31 20:40:45
阅读次数:
76
1、什么是卷积:图像中不同数据窗口的数据和卷积核(一个滤波矩阵)作内积的操作叫做卷积。其计算过程又称为滤波(filter),本质是提取图像不同频段的特征。 2、什么是卷积核:也称为滤波器filter,带着一组固定权重的神经元,通常是n*m二维的矩阵,n和m也是神经元的感受野。n*m 矩阵中存的是对感 ...
分类:
其他好文 时间:
2020-03-23 00:21:38
阅读次数:
73
重点问题 大脑机构和功能 左右半球不同的功能 脑功能的学说 神经系统的进化 单细胞动物—— 多细胞动物—— 脊椎动物复杂的神经系统—— 人脑 1. 脑重占体重的比例增大 2. 大脑新皮层的容积不断增大 3. 大脑皮层结构更复杂 神经元(略) 结构 树突:接受刺激,并把刺激传递给胞体 胞体:整合来自树 ...
分类:
其他好文 时间:
2020-03-19 21:30:47
阅读次数:
72
预测房价 Relu函数 输入一个面积→神经元→输出差不多的价格 实际还有很多影响因素 输入这些特征 通过中间影隐藏单元 得到相适应的房价 第一篇 什么是深度学习? 弱人工智能,也被称为狭义人工智能,是一种为特定的任务而设计和训练的人工智能系统。弱人工智能的形式之一是虚拟个人助理,比如苹果公司的Sir ...
分类:
其他好文 时间:
2020-03-14 14:28:22
阅读次数:
53
一.线性回归实现总结 手动实现线性回归,损失函数,梯度下降优化函数 线性回归是神经网络的基石,每一个神经元都可以看作是一个线性回归 https://www.cnblogs.com/xieviki650/p/ML_Linear-regression.html 推荐李宏毅老师的机器学习视频,结合视频和作 ...
分类:
其他好文 时间:
2020-03-08 19:46:48
阅读次数:
79
神经元的数学表示 神经元可以理解为一个具有多个输入、单个输出的模型,输入和输出的关系可以用一个函数来表示。如果用$x_1,x_2,x_3,\cdots,x_n$表示输入,$y$表示输出,那么这个函数可以表示为: $$y = a(w_1x_1+w_2x_2+w_3x_3+\cdots+w_nx_n+b ...
分类:
其他好文 时间:
2020-03-05 15:21:36
阅读次数:
61