Hornik 等人的工作（http://www.cs.cmu.edu/~bhiksha/courses/deeplearning/Fall.2016/notes/Sonia_Hornik.pdf）证明了一句话，“只有一个隐藏层的多层前馈网络足以逼近任何函数，同时还可以保证很高的精度和令人满意的效果。 ...
分类：
其他好文 时间：
2020-06-08 19:09:55
阅读次数：
63
正如你目前所看到的，神经网络的性能非常依赖超参数。因此，了解这些参数如何影响网络变得至关重要。常见的超参数是学习率、正则化器、正则化系数、隐藏层的维数、初始权重值，甚至选择什么样的优化器优化权重和偏置。 超参数调整过程 调整超参数的第一步是构建模型。与之前一样，在 TensorFlow 中构建模型。 ...
分类：
其他好文 时间：
2020-06-08 19:06:40
阅读次数：
76
TensorFlow 支持自动求导，可以使用 TensorFlow 优化器来计算和使用梯度。它使用梯度自动更新用变量定义的张量。本节将使用 TensorFlow 优化器来训练网络。前面章节中，我们定义了层、权重、损失、梯度以及通过梯度更新权重。用公式实现可以帮助我们更好地理解，但随着网络层数的增加， ...
分类：
其他好文 时间：
2020-06-08 18:52:30
阅读次数：
70
反向传播（BPN）算法是神经网络中研究最多、使用最多的算法之一，它用于将输出层中的误差传播到隐藏层的神经元，然后用于更新权重。学习 BPN 算法可以分成以下两个过程： 正向传播：输入被馈送到网络，信号从输入层通过隐藏层传播到输出层。在输出层，计算误差和损失函数。 反向传播：在反向传播中，首先计算输出 ...
分类：
编程语言 时间：
2020-06-08 18:50:29
阅读次数：
84
Tensorflow testing for Ubuntu 18.04.1 首先，安装Ubuntu 18.04.1 Desktop系统，系统安装完后再安装 NVIDIA显卡驱动。Ubuntu 18.04的系统使用NVxxx.run安装时会提示GCC版本不匹配，所以这里换一种方式安装NVIDIA驱动， ...
分类：
系统相关 时间：
2020-06-08 12:36:45
阅读次数：
88
换了一台RTX2060的电脑之后，用tensorflow做实验发现没有使用GPU，那我换电脑就没有意义了。然后百度发现tensorflow-gpu才是使用GPU来运算的。于是又花了三个多小时来下载安装，为啥比CPU的复杂这么多，唉~。终于安装成功之后，运行程序的时候又报错，也就是本文这个错误，查阅资 ...
分类：
其他好文 时间：
2020-06-08 00:12:34
阅读次数：
604
再对TF中, 关键数据结构, 标量, 向量, 矩阵, 张量熟悉,学习过程. ...
分类：
其他好文 时间：
2020-06-07 00:47:35
阅读次数：
77
在使用tf.log时，如果输入为0.则loss为nan 这时使用 tf.clip_by_value(1-y,1e-10,1.0)将一个张量中的数值限制在一个范围之内。（可以避免一些运算错误:可以保证在进行log运算时，不会出现log0这样的错误或者大于1的概率） tf.clip_by_value(1 ...
分类：
其他好文 时间：
2020-06-05 10:26:51
阅读次数：
218
Mac OS 遇到 OMP: Error #15: Initializing libiomp5.dylib, but found libiomp5.dylib already initialized. 最近在做图像对抗用到foolbox, tensorflow, keras 等机器学习模块。 在ju ...
分类：
系统相关 时间：
2020-06-05 10:24:54
阅读次数：
400
1.打开Anaconda Prompt 2.pip install tensorflow==2.0 -i https://pypi.douban.com/simple 过程出现选择,选y，最后等待完成安装。 3.测试 4.在pycharm中找到上面路径的anaconda3下的python.exe，完 ...
分类：
其他好文 时间：
2020-06-04 13:55:27
阅读次数：
67
