1、C4.5机器学习中，决策树是一个预测模型；他代表的是对象属性与对象值之间的一种映射关系。树中每个节点表示某个对象，而每个分叉路径则代表的某个可能的 属性值，而每个叶结点则对应从根节点到该叶节点所经历的路径所表示的对象的值。决策树仅有单一输出，若欲有复数输出，可以建立独立的决策树以处理不同输 出。...
分类：
其他好文 时间：
2014-07-22 22:49:55
阅读次数：
228
二种类别的点在平面上分布，我想找到一条直线，将平面划为两半边，每一边的点类别尽可能的统一，如何找到效果最佳的分界线，这就是最佳拟合问题，也叫作回归问题。 这次，代码很少。logRegres.py #?coding:utf-...
分类：
其他好文 时间：
2014-07-21 10:24:21
阅读次数：
321
前一篇博文提到怎么得到汉字字库，这篇文章讲怎么把一个一个的字转成图片，这在机器学习中会有用处。
一句话，用pygame渲染文字到图片上。
下面上代码。
import os
import pygame
chinese_dir = 'chinese'
if not os.path.exists(chinese_dir):
os.mkdir(chinese_dir)
pygame.ini...
分类：
编程语言 时间：
2014-07-20 11:43:38
阅读次数：
334
1：算法简单描述
给定训练数据样本和标签，对于某测试的一个样本数据，选择距离其最近的k个训练样本，这k个训练样本中所属类别最多的类即为该测试样本的预测标签。简称kNN。通常k是不大于20的整数，这里的距离一般是欧式距离。
2：python代码实现
创建一个kNN.py文件，将核心代码放在里面了。
(1) 创建数据
#创造数据集
def createDataSet():
...
分类：
其他好文 时间：
2014-07-19 23:24:39
阅读次数：
300
机器学习书籍资料推荐本文为转载，源地址为：http://blog.chinaunix.net/uid-10314004-id-3594337.html机器学习的资料较多，初学者可能会不知道怎样去有效的学习，所以对这方面的资料进行了一个...
分类：
其他好文 时间：
2014-07-19 23:11:51
阅读次数：
283
Accuracy不是评估分类器的有效性的唯一度量。另外两个有用的指标是precision和recall。这两个度量可提供二元分类器的性能特征的更多视角。
分类器的 Precision
Precision度量一个分类器的正确性。较高的精确度意味着更少的误报，而较低精度意味着更多的误报。这是经常与recall相反，作为一种简单的方法来提高精度，以减少召回。
分类器的 Re...
分类：
其他好文 时间：
2014-07-19 11:26:04
阅读次数：
1829
当你的分类模型有数百个或数千个特征，由于是文本分类的情况下，许多（如果不是大多数）的特点是低信息量的，这是一个不错的选择。这些特征对所有类都是通用的，因此在分类过程中作出很小贡献。个别是无害的，但汇总的话，低信息量的特征会降低性能。
通过消除噪声数据给你的模型清晰度，这样就去除了低信息量特征。它可以把你从过拟合和维数灾难中救出来。当你只使用更高的信息特征，可以提高性能，同时也降低了模型的大小...
分类：
其他好文 时间：
2014-07-19 11:22:54
阅读次数：
507
今天我们聊聊机器学习中出现的非常频繁的问题：过拟合与规则化。我们先简单的来理解下常用的L0、L1、L2和核范数规则化。最后聊下规则化项参数的选择问题。这里因为篇幅比较庞大，为了不吓到大家，我将这个五个部分分成两篇博文。知识有限，以下都是我一些浅显的看法，如果理解存在错误，希望大家不吝指正。谢谢。 ....
分类：
其他好文 时间：
2014-07-18 00:25:42
阅读次数：
249
C++与机器学习算法
尝试用最简单的语言描述机器学习算法。...
分类：
编程语言 时间：
2014-07-17 19:15:46
阅读次数：
379
机器学习： 是人工智能的核心研究领域，目前把他定义为：利用经验来改善计算机系统性能。对于“经验”，实际上在计算机中，“经验”是以数据的形式存在的，所以机器学习需要对数据进行分析运用。 提高泛化能力（generalization ability）是机器学习中最重要的问题之一。泛化能力表征了机器学习.....
分类：
其他好文 时间：
2014-07-17 17:34:48
阅读次数：
248
