终于明白了反向传播的意义。 核心要明白一个概念就是求导就是要通过构建的正向链,然后再通过反向链求导数值。 为什么要求导数值?因为要求最小值。求什么最小值? 求的是损失函数的最小值,可以通过数值方式(倒数公式)来进行求导,也可以通反向传播的方式来求导。 为什么要求损失函数的极值? 因为要通过损失函数的 ...
分类:
其他好文 时间:
2019-06-09 00:48:43
阅读次数:
127
在统计学中,线性回归(英语:linear regression)是利用称为线性回归方程的最小二乘函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。这种函数是一个或多个称为回归系数的模型参数的线性组合。只有一个自变量的情况称为简单回归,大于一个自变量情况的叫做多元回归(multivaria ...
分类:
其他好文 时间:
2019-06-06 10:46:39
阅读次数:
135
说明:由于本人的实际情况是不能修改线上对数据引擎的支持,并且只是为了同步部分表,因此没必要将两个库做主从,因此采用以下的方式进行解决 对于跨服务器同步增量导数据的问题, 本可以使用:select * into outfile "/home/yls/my.log" fields terminated ...
分类:
数据库 时间:
2019-06-04 09:44:11
阅读次数:
223
学习率 learning_rate:表示了每次参数更新的幅度大小。学习率过大,会导致待优化的参数在最 小值附近波动,不收敛;学习率过小,会导致待优化的参数收敛缓慢。 在训练过程中,参数的更新向着损失函数梯度下降的方向。 参数的更新公式为: 𝒘𝒏+𝟏 = 𝒘𝒏 ? 𝒍𝒆𝒂𝒓𝒏𝒊? ...
分类:
其他好文 时间:
2019-06-01 21:17:11
阅读次数:
121
三角函数 诱导公式以及和差倍半 随便上网就能查到。 和差化积公式 必背四个公式。 $$\sin(x)+\sin(y)=2\sin(\frac{x+y}{2})\cos(\frac{x y}{2})$$$$\sin(x) \sin(y)=2\cos(\frac{x+y}{2})\sin(\frac{x ...
分类:
其他好文 时间:
2019-05-31 00:59:20
阅读次数:
209
深度学习相关概念整理 数值梯度和解析梯度 数值梯度就是通过梯度得定义去计算出来的梯度:给予x_i一个非常小的偏移量,去计算出y的偏移量,最后用y的偏移去除以x_i的偏移就是在x_i处的偏导数。 解析梯度就是对目标函数进行直接求偏导,得到的偏导式所算出来的梯度。 CNN中的卷积层与池化层 卷积层,就是 ...
分类:
其他好文 时间:
2019-05-27 12:00:52
阅读次数:
115
停机扩容(不推荐) 这个方案就跟停机迁移一样,步骤几乎一致,唯一的一点就是那个导数的工具,是把现有库表的数据抽出来慢慢倒入到新的库和表里去。但是最好别这么玩儿,有点不太靠谱,因为既然分库分表就说明数据量实在是太大了,可能多达几亿条,甚至几十亿,你这么玩儿,可能会出问题。 从单库单表迁移到分库分表的时 ...
分类:
其他好文 时间:
2019-05-26 17:58:22
阅读次数:
143
停机迁移方案 我先给你说一个最 low 的方案,就是很简单,大家伙儿凌晨 12 点开始运维,网站或者 app 挂个公告,说 0 点到早上 6 点进行运维,无法访问。 接着到 0 点停机,系统停掉,没有流量写入了,此时老的单库单表数据库静止了。然后你之前得写好一个导数的一次性工具,此时直接跑起来,然后 ...
分类:
其他好文 时间:
2019-05-26 17:54:09
阅读次数:
117
1.扩容与缩容 这个是你必须面对的一个事儿,就是你已经弄好分库分表方案了,然后一堆库和表都建好了,基于分库分表中间件的代码开发啥的都好了,测试都ok了,数据能均匀分布到各个库和各个表里去,而且接着你还通过双写的方案咔嚓一下上了系统,已经直接基于分库分表方案在搞了。 那么现在问题来了,你现在这些库和表 ...
分类:
其他好文 时间:
2019-05-26 00:05:44
阅读次数:
134
因为项目需要从9i 导数据到18C,所以发现如下特性 1.18C imp 导入数据,如果表空间在目标库没有,会将表导入到用户默认表空间 2.18C imp 导入数据,如果表空间在目标库有,但缺少权限。会将表创建到对应表空间,但数据不能导入。 3.18C grant connect,resource ...
分类:
其他好文 时间:
2019-05-25 22:58:52
阅读次数:
251