这一节讲如何将得到的feature或hypothesis组合起来用于预测。 1. 林老师给出了几种方法 在选择g时，需要选择一个很强的g来确保Eval最小，但如果每个g都很弱该怎么办呢 这个时候可以选择Aggregation的方式将这些若g组合起来，组合起来的G，既能fea...
分类：
其他好文 时间：
2015-07-27 18:36:30
阅读次数：
1755
由于最近对机器学习算法感兴趣，一直知道python有一个包collections封装了一些比dict,list之类高级点的类，所以抽空研究下，为接下来的工作准备。 主要参考是https://docs.python.org/2/library/collections.html#defaultdi...
分类：
其他好文 时间：
2015-07-27 13:03:43
阅读次数：
133
算算时间，从开始到现在，做机器学习算法也将近八个月了。虽然还没有达到融会贯通的地步，但至少在熟悉了算法的流程后，我在算法的选择和创造能力上有了不小的提升。实话说，机器学习很难，非常难，要做到完全了解算法的流程、特点、实现方法，并在正确的数据面前选择正确的方法再进行优化得到最优效果，我觉得没有个...
分类：
其他好文 时间：
2015-07-26 22:26:54
阅读次数：
164
一、C4.5 C4.5，是机器学习算法中的一个分类决策树算法，它是决策树(决策树也就是做决策的节点间的组织方式像一棵树，其实是一个倒树)核心算法ID3的改进算法，所以基本上了解了一半决策树构造方法就能构造它。决策树构造方法其实就是每次选择一个好的特征以及分裂点作为当前节点的分类条件。二、The k-...
分类：
编程语言 时间：
2015-07-26 20:31:24
阅读次数：
144
接触机器学习领域有一段时间了，跟过不少基础的课程，也看过一些入门的书籍和论文，现在想通过一门公开课系统的进入机器学习的领域，所以选择了advanced Machine Learning，这是哈佛大学的一门高级机器学习公开课，主要教材选用的是kevin Murphy Machine
Learning: A Probabilistic Perspective, MIT Press 以及Christ...
分类：
系统相关 时间：
2015-07-26 19:20:34
阅读次数：
247
导言部分，截取一些概念、定义的东西如下：什么是集体智慧为了创造新的想法，而将一群人的行为、偏好或思想组合在一起；什么是机器学习机器学习是人工智能领域中与算法相关的一个子领域，它允许计算机不断的进行学习。大多数情况下，这相当于将一组数据传递给算法，并由算法推断出与这些数据的属性相关的信息——借助这些信...
分类：
其他好文 时间：
2015-07-26 18:53:18
阅读次数：
127
Scala并发编程react、loop代码实战详解...
分类：
其他好文 时间：
2015-07-26 15:48:45
阅读次数：
136
算算时间，从开始到现在，做机器学习算法也将近八个月了。虽然还没有达到融会贯通的地步，但至少在熟悉了算法的流程后，我在算法的选择和创造能力上有了不小的提升。实话说，机器学习很难，非常难，要做到完全了解算法的流程、特点、实现方法，并在正确的数据面前选择正确的方法再进行优化得到最优效果，我觉得没有个八年十...
分类：
其他好文 时间：
2015-07-26 15:32:13
阅读次数：
117
最近做了不少的kaggle机器学习竞赛，总结除了一个经验：做好了feature enginering可以进到前百分之20，如果要进到前百分之10，那么就需要Ensemble method的支持了，所以最近专门深入了解了以下组合的各种方法。通过学习发现组合方法真的是屡试不爽，在竞赛的后期，黔驴技穷，走投无路之时，不妨试试组合方法，会让人豁然开朗，
组合历史提交答案
这是最简单的一种组合方法，只需...
分类：
系统相关 时间：
2015-07-26 14:17:37
阅读次数：
187
引言在之前的两节博文《混合和装袋》和《自适应提升》中，我们已经有现成的一堆假设g在手中，我们还如何将这些g混合起来，得到更好的分类器。
混合方式可以分为三种情况：
把g看做是同等地位，通过投票或者平均的方式将它们合起来，称为Bagging
g是不平等的，有好有坏，一个可行的做法是把g当成是特征的转换，然后丢进线性模型训练就可以了，这称为AdaBoost
如果是不同的条件下，使用不...
分类：
编程语言 时间：
2015-07-26 12:40:57
阅读次数：
172
