你可能不知道的一些机器学习事儿
最近零零碎碎地看了很多机器学习方法的东西，增长了不少新知识。有很多小技巧虽然不会出现在教科书中，但它们真的很实用。
（1）随机森林模型不适合用稀疏特征。
（2）测试集必须使用与训练集相同的方法进行预处理。
（3）L1正则（特征选择）最小样本数目m与特征n呈log关系，m = O(log n) ；
L2正则（旋转不变）最小样本...
分类：
其他好文 时间：
2015-08-31 21:44:15
阅读次数：
234
学习知识，有的人学的快、学的轻松、应用的好；有的人学的慢、学的吃力，应用差。 这是为什么？ 传统的观点
认为，前者脑子好使，聪明，是学习的料儿，后者就是不行。 我本人不赞同这种观点，我觉得学习好或者不好是和方
法有关系的，学习方法得当了，就能达到前者的水平。只要是有正常能力的人都可以做到。 方法的好坏怎么衡量，怎
么评定呢？ 看看效果心里就有数了。
在计算机...
分类：
编程语言 时间：
2015-08-31 01:16:15
阅读次数：
351
EM算法(Expectation Maximization Algorithm)1. 前言 这是本人写的第一篇博客(2013年4月5日发在cnblogs上,现在迁移过来)，是学习李航老师的《统计学习方法》书以及斯坦福机器学习课Andrew Ng的EM算法课后，对EM算法学习的介绍性笔记，如有写得不....
分类：
编程语言 时间：
2015-08-29 21:25:56
阅读次数：
331
这篇文章主要学习如何配置myBatis。要学习新东西要讲究方法，我觉得要从三个层面去理解它：它是什么（what），为什么要学它（why），怎么用它（how）。有了学习方法学习的效率才高。1、myBatis是什么（what） myBatis的官方用户指南上面是这样写的：MyBatis 是支持普通 S....
分类：
其他好文 时间：
2015-08-29 15:20:41
阅读次数：
261
前言：用途：分类。类似于if-then集合优点：速度快。原则：损失函数最小化，这是所有机器学习算法的原则。步骤：1> 特征选择 2> 决策树生成 3> 决策树修剪决策树模型内部结点和叶结点，太好理解了，无需讨论。if-then 集合if-then 需要保证重要的一点：就是互斥且完备。很好理解。完备保...
分类：
其他好文 时间：
2015-08-29 00:35:39
阅读次数：
279
需要知道的是在什么时候可以用朴素贝叶斯算法：需要保证特征条件独立。 主要过程是学习输入和输出的联合概率分布。 预测的时候，就可以根据输入获得对打后验概率对应的输出y。 先验概率：已知输出，求输入。后验概率相反。 简单来说朴素贝叶斯算法，就是在对样本进行学习之后，到了需要做决策的时候，给定...
分类：
编程语言 时间：
2015-08-28 22:54:41
阅读次数：
285
第11章 条件随机场条件随机场(conditional random field, CRF)是给定一组输入随机变量条件下另一组输出随机变量的条件概率分布模型，其特点是假设输出随机变量构成马尔可夫随机场。条件随机场可以用于不同的预测问题，本章主要讲述线性链(linear chain)条件随机场在标注问...
分类：
其他好文 时间：
2015-08-28 21:24:31
阅读次数：
1900
第10章隐马尔可夫模型隐马尔可夫模型(hidden Markov model, HMM)是可用于标注问题的统计学习模型，描述由隐藏的马尔可夫链随机生成观测序列的过程，属于生成模型。10.1 隐马尔可夫模型的基本概念定义10.1 (隐马尔可夫模型) 隐马尔可夫模型是关于时序的概率模型，描述由一个隐藏的...
分类：
其他好文 时间：
2015-08-28 21:19:20
阅读次数：
1672
第12章 统计学习方法总结1 适用问题分类问题是从实例的特征向量到类标记的预测问题；标注问题是从观测序列到标记序列(或状态序列)的预测问题。可以认为分类问题是标注问题的特殊情况。分类问题中可能的预测结果是二类或多类；而标注问题中可能的预测结果是所有的标记序列，其数目是指数级的。感知机、k近邻法、朴素...
分类：
其他好文 时间：
2015-08-28 21:07:06
阅读次数：
311
第8章提升方法提升(boosting)方法是一种常用的统计学习方法，应用广泛且有效。在分类问题中，它通过改变训练样本的权重，学习多个分类器，并将这些分类器进行线性组合，提高分类的性能。基本思想：对于分类问题而言，给定一个训练样本集，求比较粗糙的分类规则(弱分类器)要比求精确的分类规则(强分类器)容易...
分类：
其他好文 时间：
2015-08-28 19:41:26
阅读次数：
1528
