国际权威的学术组织the IEEE International Conference on Data Mining (ICDM) 早前评选出了数据挖掘领域的十大经典算法：C4.5, k-Means, SVM, Apriori, EM, PageRank, AdaBoost, kNN, Naive B
分类：
编程语言 时间：
2016-02-06 10:22:48
阅读次数：
256
KNN最邻近规则，主要应用领域是对未知事物的识别，即判断未知事物属于哪一类，判断思想是，基于欧几里得定理，判断未知事物的特征和哪一类已知事物的的特征最接近； K最近邻(k-Nearest Neighbor，KNN)分类算法，是一个理论上比较成熟的方法，也是最简单的机器学习算法之一。该方法的思路是：如
分类：
其他好文 时间：
2016-02-05 18:55:34
阅读次数：
169
这篇文章讲kNN（k近邻，k-Nearest Neighbour）。这是一种lazy-learning，实现方便，很常用的分类方法。约定n为样本集中的样本数，m为样本的维度，则这个算法的训练复杂度为0，未加优化（线性扫描）的分类时间复杂度为，kd-Tree优化后复杂度可降为。 思路、优点及缺陷 该方
分类：
编程语言 时间：
2016-01-30 01:54:39
阅读次数：
257
工作原理： 给定一个训练数据集，对新的输入实例，在训练数据集中找到与该实例最邻近的K个实例（也就是上面所说的K个邻居）， 这K个实例的多数属于某个类，就把该输入实例分类到这个类中。代码实例：kNN.pyfrom numpy import *import operatordef createData....
分类：
编程语言 时间：
2016-01-22 14:09:38
阅读次数：
141
利用k-近邻分类器实现手写识别系统，训练数据集大约2000个样本，每个数字大约有200个样本，每个样本保存在一个txt文件中，手写体图像本身是32X32的二值图像，如下图所示：
首先，我们需要将图像格式化处理为一个向量，把一个32X32的二进制图像矩阵通过img2vector()函数转换为1X1024的向量：
def img2vector(filename):
retu...
分类：
编程语言 时间：
2016-01-17 14:57:43
阅读次数：
235
一、案例背景
我的朋友海伦一直使用在线约会网站寻找合适自己的约会对象。尽管约会网站会推荐不同的人选，但她并不是喜欢每一个人。经过一番总结，她发现曾交往过三种类型的人：
（1）不喜欢的人；
（2）魅力一般的人；
（3）极具魅力的人；
尽管发现了上述规律，但海伦依然无法将约会网站推荐的匹配对象归入恰当的分类，她觉得可以在周一到周五约会那些魅力一般的人，而周末则更喜欢与那些极具魅力的人为伴...
分类：
编程语言 时间：
2016-01-17 13:38:35
阅读次数：
329
Digit Recognizerstep1: KNN实验室的电脑太慢了，用Python简直慢的一比，用C写的，跑了一个多小时，识别率93%，很低，继续…… 1 #include 2 #include 3 4 using namespace std; 5 6 int ans[150...
分类：
其他好文 时间：
2016-01-11 22:08:08
阅读次数：
155
其原理为在一个样本空间中，有一些已知分类的样本，当出现一个未知分类的样本，则根据距离这个未知样本最近的k个样本来决定。 举例：爱情电影和动作电影，它们中都存在吻戏和动作，出现一个未知分类的电影，将根据以吻戏数量和动作数量建立的坐标系中距离未知分类所在点的最近的k个点来决定。
分类：
编程语言 时间：
2015-12-24 09:21:22
阅读次数：
219
那几年。我学习机器学习的主要内容：1.机器学习基本导论，机器学习入门了解；2.线性回归与Logistic。xx业绩预測系统。智能交互统计系统等。3.岭回归。Lasso，变量选择技术。维度的技巧等技术；4.降维技术。xx指标设计，详细规范。5.线性分类器，Knn算法，朴素贝叶斯分类器。文本挖掘。XX智...
分类：
其他好文 时间：
2015-12-19 17:55:21
阅读次数：
141
KNN（K Nearest Neighbors,K近邻 ）算法是机器学习所有算法中理论最简单，最好理解的。KNN是一种基于实例的学习，通过计算新数据与训练数据特征值之间的距离，然后选取K（K>=1）个距离最近的邻居进行分类判断（投票法）或者回归。如果K=1，那么新数据被简单分配给其近邻的类。KNN算...
分类：
编程语言 时间：
2015-12-18 22:37:46
阅读次数：
176
