KNN最邻近规则，主要应用领域是对未知事物的识别，即判断未知事物属于哪一类，判断思想是，基于欧几里得定理，判断未知事物的特征和哪一类已知事物的的特征最接近； K最近邻(k-Nearest Neighbor，KNN)分类算法，是一个理论上比较成熟的方法，也是最简单的机器学习算法之一。该方法的思路是：如
分类：
其他好文 时间：
2016-02-05 18:55:34
阅读次数：
169
原文地址链接 1. 问题 真实的训练数据总是存在各种各样的问题： 1、 比如拿到一个汽车的样本，里面既有以“千米/每小时”度量的最大速度特征，也有“英里/小时”的最大速度特征，显然这两个特征有一个多余。 2、 拿到一个数学系的本科生期末考试成绩单，里面有三列，一列是对数学的兴趣程度，一列是复习时间，
分类：
其他好文 时间：
2016-01-31 21:25:00
阅读次数：
310
这篇文章讲kNN（k近邻，k-Nearest Neighbour）。这是一种lazy-learning，实现方便，很常用的分类方法。约定n为样本集中的样本数，m为样本的维度，则这个算法的训练复杂度为0，未加优化（线性扫描）的分类时间复杂度为，kd-Tree优化后复杂度可降为。 思路、优点及缺陷 该方
分类：
编程语言 时间：
2016-01-30 01:54:39
阅读次数：
257
5.验证码的处理 碰到验证码咋办？这里分两种情况处理： google那种验证码，凉拌 简单的验证码：字符个数有限，只使用了简单的平移或旋转加噪音而没有扭曲的，这种还是有可能可以处理的，一般思路是旋转的转回来，噪音去掉，然 后划分单个字符，划分好了以后再通过特征提取的方法(例如PCA)降维并生成特征库
分类：
其他好文 时间：
2016-01-29 19:34:30
阅读次数：
172
斯坦福ML公开课笔记15我们在上一篇笔记中讲到了PCA(主成分分析)。PCA是一种直接的降维方法。通过求解特征值与特征向量，并选取特征值较大的一些特征向量来达到降维的效果。本文继续PCA的话题，包含PCA的一个应用——LSI(Latent Semantic Indexing, 隐含语义索引)和PCA...
分类：
其他好文 时间：
2016-01-24 16:50:21
阅读次数：
197
这些代码很实用，可以让我们站在巨人的肩膀上~~TopicResourcesReferencesFeature Extraction·SIFT [1] [Demo program][SIFT Library] [VLFeat]·PCA-SIFT [2] [Project]·Affine-SIFT [3...
分类：
其他好文 时间：
2016-01-24 15:29:33
阅读次数：
239
工作原理： 给定一个训练数据集，对新的输入实例，在训练数据集中找到与该实例最邻近的K个实例（也就是上面所说的K个邻居）， 这K个实例的多数属于某个类，就把该输入实例分类到这个类中。代码实例：kNN.pyfrom numpy import *import operatordef createData....
分类：
编程语言 时间：
2016-01-22 14:09:38
阅读次数：
141
K-Means算法非监督式学习对一组无标签的数据试图发现其内在的结构，主要用途包括：市场划分（Market Segmentation）社交网络分析（Social Network Analysis）管理计算机集群（Organize Computer Clusters）天文学数据分析（Astronomi...
分类：
其他好文 时间：
2016-01-20 22:12:07
阅读次数：
844
利用k-近邻分类器实现手写识别系统，训练数据集大约2000个样本，每个数字大约有200个样本，每个样本保存在一个txt文件中，手写体图像本身是32X32的二值图像，如下图所示：
首先，我们需要将图像格式化处理为一个向量，把一个32X32的二进制图像矩阵通过img2vector()函数转换为1X1024的向量：
def img2vector(filename):
retu...
分类：
编程语言 时间：
2016-01-17 14:57:43
阅读次数：
235
一、案例背景
我的朋友海伦一直使用在线约会网站寻找合适自己的约会对象。尽管约会网站会推荐不同的人选，但她并不是喜欢每一个人。经过一番总结，她发现曾交往过三种类型的人：
（1）不喜欢的人；
（2）魅力一般的人；
（3）极具魅力的人；
尽管发现了上述规律，但海伦依然无法将约会网站推荐的匹配对象归入恰当的分类，她觉得可以在周一到周五约会那些魅力一般的人，而周末则更喜欢与那些极具魅力的人为伴...
分类：
编程语言 时间：
2016-01-17 13:38:35
阅读次数：
329
