逻辑斯蒂回归主要用于二分类，推广到多分类的话是类似于softmax分类。求 上述问题可以通过最大化似然函数求解。 上述问题可以采用最小化logloss进行求解。 一般地，我们还需要给目标函数加上正则项，参数w加上l1或者l2范数。 LR适合大规模数据，数据量太小的话可能会欠拟合（考虑到数据通常比较稀 ...
分类：
其他好文 时间：
2019-08-18 17:52:13
阅读次数：
157
我们先来理解理解Softmax：任意事件发生的概率都在 0 和 1 之间，且总有某一个事件发生 （概率的和为 1 ）。如果将分类问题中“ 一个样例属于某一个类别”看成一个概率事件， 那么训练数据的正确答案就符合一个概率分布。因为事件“一个样例属于不正确的类别”的概率为0,而“ 一个样例属于正确的类别 ...
分类：
其他好文 时间：
2019-08-10 12:20:57
阅读次数：
115
TensorFlow实践 任务一：拟合曲线 任务二：利用softmax对MNIST手写字体进行识别 任务三：利用BP神经网络进行鸢尾花数据集分类 ...
分类：
其他好文 时间：
2019-08-04 19:56:34
阅读次数：
104
目录 产生背景 工作原理 参考资料 产生背景 假设选用softmax交叉熵训练一个三分类模型，某样本经过网络最后一层的输出为向量x=(1.0, 5.0, 4.0)，对x进行softmax转换输出为： 假设该样本y=[0, 1, 0]，那损失loss: 按softmax交叉熵优化时，针对这个样本而言， ...
分类：
其他好文 时间：
2019-07-27 12:43:48
阅读次数：
130
TensorFlow 手写体数字识别 ? 手写体数字 MNIST 数据集介绍 MNIST 数据集介绍 MNIST 是一套手写体数字的图像数据集，包含 60,000 个训练样例和 10,000 个测试样例， 由纽约大学的 Yann LeCun 等人维护。 ? MNIST Softmax 网络介绍 ? ...
分类：
其他好文 时间：
2019-07-26 09:27:00
阅读次数：
118
神经网络属于“连接主义”，和统计机器学习的理论基础区别还是很不一样。 以我自己的理解，统计机器学习的理论基于统计学，理论厚度足够强，让人有足够的安全感；而神经网络的理论更侧重于代数，表征能力特别强，不过可解释性欠佳。 这两个属于机器学习的两个不同的流派，偶尔也有相互等价的算法。 本文回顾神经网络最简 ...
分类：
其他好文 时间：
2019-07-25 19:08:31
阅读次数：
266
1.阶跃函数 2.sigmoid函数 3.relu函数 4.softmax ...
分类：
其他好文 时间：
2019-07-25 00:44:11
阅读次数：
87
SoftMax回归 对于MNIST中的每个图像都是零到九之间的手写数字。所以给定的图像只能有十个可能的东西。我们希望能够看到一个图像，并给出它是每个数字的概率。 例如，我们的模型可能会看到一个九分之一的图片，80％的人肯定它是一个九，但是给它一个5％的几率是八分之一（因为顶级循环），并有一点概率所有 ...
分类：
其他好文 时间：
2019-07-24 13:46:38
阅读次数：
201
1. wordvec的概念 2. 语言模型训练的两种模型CBOW+skip gram 3. word2vec 优化的两种方法：层次softmax+负采样 4. gensim word2vec默认用的模型和方法 ...
分类：
其他好文 时间：
2019-07-14 19:33:18
阅读次数：
787
