1 from keras.datasets import imdb 2 from keras import layers 3 from keras import models 4 from keras import optimizers 5 import matplotlib.pyplot as p... ...
分类：
其他好文 时间：
2019-10-03 01:08:53
阅读次数：
124
利用平pytorch搭建简单的神经网络实现minist手写字体的识别，采用三层线性函数迭代运算，使得其具备一定的非线性转化与运算能力，其数学原理如下： 其具体实现代码如下所示：import torchimport matplotlib.pyplot as pltdef plot_curve(data... ...
分类：
其他好文 时间：
2019-09-18 00:43:09
阅读次数：
136
[TOC] 目标函数 目标函数，或称损失函数，是网络中的性能函数，也是编译一个模型必须的两个参数之一。由于损失函数种类众多，下面以keras官网手册的为例。 在官方keras.io里面，有如下资料： 1. mean_squared_error或mse 2. mean_absolute_error或m ...
分类：
其他好文 时间：
2019-09-14 23:03:54
阅读次数：
1023
1.Layout Optimizer Tensorflow有几种图优化的方法，其中一种较为重要的是layout optimizer，核心思想是调整tensor的layout（NHWC to NCHW），原因在于在较早的cudnn版本中的API是不支持NHWC格式的输入的，目前cudnn7.0版本已经 ...
分类：
其他好文 时间：
2019-08-31 21:24:28
阅读次数：
109
**序言：**Adam自2014年出现之后，一直是受人追捧的参数训练神器，但最近越来越多的文章指出：Adam存在很多问题，效果甚至没有简单的SGD + Momentum好。因此，出现了很多改进的版本，比如AdamW，以及最近的ICLR-2018年最佳论文提出的Adam改进版Amsgrad。那么，Ad ...
分类：
其他好文 时间：
2019-07-25 10:50:05
阅读次数：
107
Optimizer SGD Momentum Nesterov(牛顿动量) 二.自适应参数的优化算法 这类算法最大的特点就是，每个参数有不同的学习率，在整个学习过程中自动适应这些学习率。 AdaGrad RMSProp Adam 二阶近似的优化算法 牛顿法 共轭梯度法 BFGS LBFGS ...
分类：
编程语言 时间：
2019-07-23 15:21:57
阅读次数：
127
Overview Optimizer模块所处在的位置如图， 那么做optimize的目的是， 找出所有‘correct’执行计划中‘cost’最低的 那么这里首先要明确的概念，‘correct’，关系代数等价，产生相同的结果集；所以所有优化的前提是需要是等价变换 但是等价集合，即所有等价的执行计划的 ...
分类：
数据库 时间：
2019-07-22 18:08:45
阅读次数：
136
```
tf.train.MomentumOptimizer( learning_rate, momentum, use_locking=False, use_nesterov=False, name='Momentum'
)
``` ```
参数：
learning_rate: （学习率）张量或者... ...
分类：
其他好文 时间：
2019-07-17 20:34:13
阅读次数：
577
下载PHP源码包1#wgethttp://cn2.php.net/distributions/php-5.6.0.tar.xz1#xz-dphp-5.6.0.tar.xz1#tarxfphp-5.6.0.tar-C/usr/local/src/yuminstallzlib-devellibxml2-devellibjpeg-devellibjpeg-turbo-devellibiconv-deve
分类：
Web程序 时间：
2019-07-05 00:33:57
阅读次数：
161
基于成本的优化器(CBO, Cost-Based Optimizer)对索引的选择性进行判断来决定索引的使用是否能提高效率. 如果索引有很高的选择性, 那就是说对于每个不重复的索引键值,只对应数量很少的记录. 比如, 表中共有100条记录而其中有80个不重复的索引键值. 这个索引的选择性就是80/1 ...
分类：
数据库 时间：
2019-07-03 13:38:16
阅读次数：
125
