此随笔记录自己读过的,并且自己认为有所价值,有所感悟的书籍 ps: {e} 有电子书 ,{p} 有实体书 1月-6月 {p}数据挖掘导论 [状态:未读] [类型:数据挖掘教程书] 数据挖掘方面接触尚少,没有系统的进行学习 {p}最优化方法及其matlab程序设计 [状态:未读] [类型:matlab ...
分类：
其他好文 时间：
2017-06-12 20:37:34
阅读次数：
158
研一零零散散用了一些统计算法，在此简单梳理下。力求用电梯演讲法则去阐述每种算法模型（这是初哀，最后。呵呵了）。但自己理解不深，还须要进一步努力。更重要的是复用了他人的智慧。 统计学习概述 关于统计学习。首先推荐李航老师著作的一本书《统计学习方法》。在此引用里边一句话来定义统计学习：统计学习（stat ...
分类：
编程语言 时间：
2017-06-11 13:45:23
阅读次数：
250
预测算法 还记得隐马尔可夫模型的三个问题吗？本篇介绍第三个问题：预测问题，即给定模型参数和观测序列，求最有可能的状态序列，有如下两种算法。 近似算法 在每个时刻t选出当前最有可能的状态 it，从而得到一个状态序列。 给定隐马尔可夫模型参数 λ 和长度为T的观测序列O，在时刻 t 处于状态qi的概率为 ...
分类：
其他好文 时间：
2017-06-10 15:35:34
阅读次数：
271
隐马尔科夫模型在股票量化交易中有应用，最早我们找比特币交易模型了解到了这个概念，今天又看了一下《统计学习方法》里的隐马尔科夫模型一章。 隐马尔科夫模型从马尔科夫链的概念而来，马尔科夫链是指下一个状态只和当前的n个状态有关，和历史状态无关的一个时间上的事件链，隐马尔科夫模型在这个状态链的基础上，让每一 ...
分类：
其他好文 时间：
2017-06-04 17:03:36
阅读次数：
134
支持向量机(SVM)是一种二分类模型，跟之前介绍的感知机有联系但也有区别。简单来讲，感知机仅仅是找到了一个平面分离正负类的点，意味着它是没有任何约束性质的，可以有无穷多个解，但是(线性可分)支持向量机和感知机的区别在于，支持向量机有一个约束条件，即利用间隔最大化求最优分离超平面，这时，支持向量机的解 ...
分类：
其他好文 时间：
2017-06-02 23:04:43
阅读次数：
241
本篇文章先介绍了提升放法和AdaBoost算法。已经了解的可以直接跳过。后面给出了AdaBoost算法的两个样例。附有详细计算过程。1、提升方法（来源于统计学习方法） 提升方法是一种经常使用的统计学习方法，应用十分广泛且有效。在分类问题中，它通过改变训练样本的权重，学习多个分类器，并将这些分类器进行 ...
分类：
编程语言 时间：
2017-06-01 19:35:25
阅读次数：
257
解决一个机器学习问题的一般套路是先构建一个目标函数，然后解决一个优化问题。目标函数通常由损失函数和正则项组成。常见的损失函数log-loss,square-loss,cross-entropy-loss等，常见的正则化方法有L1正则、L2正则等，常见的优化方法有梯度下降、随机梯度下降等。SVM也可以 ...
分类：
编程语言 时间：
2017-05-25 23:31:27
阅读次数：
263
在分类的问题中，要预测的变量y经常是离散的，如需要预测是正确还是错误，这是一种最基本的二分类。当然，逻辑回归也可以进行多分类，有一种简单的方法是，将其中一类标记为正类，剩余类标记为负类，可以得到正类，再讲另外一个类标记为正类，重复进行既可得到多分类的结果。 LR的常规步骤： 1.寻找假设函数 2.构 ...
分类：
其他好文 时间：
2017-05-23 11:15:02
阅读次数：
153
过拟合 我们都知道，在进行数据挖掘或者机器学习模型建立的时候，因为在统计学习中，假设数据满足独立同分布（i.i.d，independently and identically distributed），即当前已产生的数据可以对未来的数据进行推测与模拟，因此都是使用历史数据建立模型，即使用已经产生的数 ...
分类：
其他好文 时间：
2017-05-14 23:36:28
阅读次数：
392
作者：桂。 时间：2017-05-13 14:19:14 链接：http://www.cnblogs.com/xingshansi/p/6847334.html 、 前言 内容主要是CART算法的学习笔记。 CART算法是一个二叉树问题，即总是有两种选择，而不像之前的ID3以及C4.5B可能有多种选 ...
分类：
编程语言 时间：
2017-05-13 20:06:40
阅读次数：
899
