今天研究了很久的sigmoid，把学习结果总结一下。 sigmoid的二分类问题。 首先我们得有个样本，比如书上的例子。通过人的体重和年龄，来预测血脂的高低。那么数据形式就是[weight,age]，血脂的高低用1和0表示，1表示高，0表示低。[1]或者[0] 100个样本数据就是[[88,33], ...
分类：
其他好文 时间：
2018-05-29 01:48:11
阅读次数：
10269
分类问题，主要介绍决策树算法、朴素贝叶斯、支持向量机、BP神经网络、懒惰学习算法、随机森林与自适应增强算法、分类模型选择和结果评价。 一、分类基本介绍 物以类聚，人以群分，分类问题只古以来就出现我们的生活中。分类是数据挖掘中一个重要的分支，在各方面都有着广泛的应用，如医学疾病判别、垃圾邮件过滤、垃圾 ...
分类：
编程语言 时间：
2018-05-23 17:06:05
阅读次数：
236
神经网络 1.神经网络发展的动力：在逻辑回归解决复杂的分类问题时，我们使用属性的一些组合来构造新的属性（x12,x1x2,x22...），这样就会造成属性的数目n过多，带来了大量的运算，甚至造成过拟合的现象。在计算机视觉中对物体进行识别，需要将图片的像素点作为属性，因此，属性的项目n将会十分的庞大。 ...
分类：
其他好文 时间：
2018-05-18 15:36:16
阅读次数：
194
1、为什么要用神经网络？ 对于非线性分类问题，如果用多元线性回归进行分类，需要构造许多高次项，导致特征特多，学习参数过多，从而复杂度太高 。 在神经网络中引入激活函数一个重要的原因就是为了引入非线性。 2、CNN基本问题 层级结构：输入层->卷积层->激活层->池化层->卷积层->激活层->池化层- ...
分类：
其他好文 时间：
2018-05-18 13:53:36
阅读次数：
534
K近邻算法。 KNN算法非常简单，非常有效。 KNN的模型表示是整个训练数据集。 对一个新的数据点进行了预测，通过对K个最类似的实例(邻居)的整个训练集进行搜索，并对这些K实例的输出变量进行汇总。对于回归问题，这可能是平均输出变量，用于分类问题，这可能是模式(或最常见的)类值。 诀窍在于如何确定数据 ...
分类：
其他好文 时间：
2018-05-18 00:34:19
阅读次数：
170
一、输出层结构 注意到，huffman树的每一层，都有参数和激活函数sigmoid存在，实际上是一个神经网络。影响该节点的二分类走向。这和一般的多分类问题中，各种分类是同处于平等的最后一层，是不同的。 二、模型推导 我们重点关注输出层huffman树过程的模型推导。对于每个走到huffman树根节点 ...
分类：
其他好文 时间：
2018-05-12 13:16:36
阅读次数：
166
线性判别分析算法。 逻辑回归是一种分类算法，传统上仅限于两类分类问题。 如果有两个以上的类，那么线性判别分析算法是首选的线性分类技术。LDA的表示非常直接。它包括数据的统计属性，为每个类计算。对于单个输入变量，这包括: 每个类的平均值。 在所有类中计算的方差。 通过计算每个类的差别值并对具有最大值的 ...
分类：
其他好文 时间：
2018-05-11 14:41:44
阅读次数：
148
逻辑回归算法。 逻辑回归是机器学习从统计学领域借鉴的另一种技术。它是二进制分类问题的首选方法(有两个类值的问题)。 Logistic回归就像线性回归，目标是找到权重每个输入变量的系数值。 与线性回归不同的是，对输出的预测用一个叫做logistic函数的非线性函数来进行转换。 logistic函数看起 ...
分类：
其他好文 时间：
2018-05-10 20:23:22
阅读次数：
182
1、我们将要实现一种更强大的方法来解决图像分类问题，该方法可以自然地延伸到神经网络和卷积神经网络上。这种方法主要有两部分组成：一个是评分函数（score function），它是原始图像数据到类别分值的映射。另一个是损失函数（loss function），它是用来量化预测分类标签的得分与真实标签之间 ...
分类：
其他好文 时间：
2018-05-09 21:04:28
阅读次数：
125
监督学习 非监督学习：学习结构化知识 强化学习 监督学习: 线性回归模型：输出y是连续的 Logistic回归模型（实际上不是回归问题，是分类问题）：输出y是0，1离散的 Logistic回归模型： Sigmoid函数：将任何输入变成0与1之间的输出，也用来表示概率 softmax函数：将多个输入变 ...
分类：
其他好文 时间：
2018-05-08 19:33:31
阅读次数：
214
