一、概述 1.概念：K近邻（k-Nearest Neighbor， 简称KNN）算法是一种非常简单的机器学习监督算法。 2.主要思想：即时给定一个训练数据集，对于新的数据样本，在训练集中找到与该样本最邻近的k个样本，统计这k个样本的多数所属类，就把这个样本归结到这个所属类中。 3.根据维基百科的图解 ...
分类：
编程语言 时间：
2020-02-23 14:42:46
阅读次数：
66
机器学习实战之K-近邻算法： KNN算法，就是在已知数据集中，计算出离输入的需要预测的点最接近的K个点，然后通过这最近的K个点中哪种分类所占比最高，该预测点就是哪一种分类。 from numpy import * import operator import matplotlib import ma ...
分类：
编程语言 时间：
2020-02-19 18:49:49
阅读次数：
66
KNN算法介绍 KNN算法(K NearestNeighor Algorithm) 是一种最简单的分类算法。 算法核心： 假设在一个二维坐标平面中已经有了$n$个点，每个点的颜色已知，现在给定查询点$p$的坐标$(x,y)$，判断$p$的颜色。 对于已知的$n$个点，计算每个点和点$p$的欧几里得距 ...
分类：
编程语言 时间：
2020-02-03 12:07:15
阅读次数：
80
一、机器学习是什么 机器学习是人类用数学的语言通过大量的数据训练"教会"计算机做出一系列的行为。 二、机器学习的主要算法 ①线性回归算法 衍生的：正则化 ②逻辑回归算法 ③KNN算法 衍生的KD-tree 三、算法介绍 ①线性回归算法 运用线性模型y=ax+b，去拟合数据集，进行数据集的预测。在算法 ...
分类：
编程语言 时间：
2019-12-26 19:48:00
阅读次数：
117
时间过得很快，这篇文章已经是机器学习入门系列的最后一篇了。短短八周的时间里，虽然对机器学习并没有太多应用和熟悉的机会，但对于机器学习一些基本概念已经差不多有了一个提纲挈领的了解，如分类和回归，损失函数，以及一些简单的算法——kNN算法、决策树算法等。 那么，今天就用聚类和K Means算法来结束我们 ...
分类：
编程语言 时间：
2019-12-23 13:09:39
阅读次数：
82
一、概述 【定义】如果一个样本在特征空间中的k个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别，则该样本也属于这个类别。 二、距离计算公式 两个样本的距离可以通过如下公式计算，又叫【欧式距离】 设有特征，a(a1,a2,a3),b(b1,b2,b3)，那么： $$\sqrt{(a1 b1 ...
分类：
编程语言 时间：
2019-11-30 13:38:37
阅读次数：
93
一、算法原理 KNN算法是机器学习中最基本算法之一，属于惰性学习算法的典例。惰性指模型仅通过对训练数据集的记忆功能进行预测，而不产生判别函数。 KNN算法本身很简单，归纳为如下几步：①选择近邻数量k和距离度量的方法②找到待分类样本的k个最近邻③根据最近邻类标进行多数投票 二、超参数(结合sklear ...
分类：
编程语言 时间：
2019-11-28 23:06:36
阅读次数：
483
该项目基于Github上面的开源项目人脸识别face-recognition,主要是对图像和视频中的人脸进行识别，在开源项目给出的例子基础上对视频人脸识别的KNN算法进行了实现。 0x1 工程项目结构 0x2 项目中的3个py文件 recognize_people_from_image.py是对图片 ...
分类：
编程语言 时间：
2019-11-23 14:43:06
阅读次数：
67
0. 前情回顾 上一周的文章中，我们通过kNN算法了解了机器学习的一些基本概念。我们自己实现了简单的kNN算法，体会了其过程。这一周，让我们继续机器学习的探索。 1. 数据集的拆分 上次的kNN算法介绍中，我们只是简单地实现了这样一个算法，并用一组测试数据进行了测试。 然而，在真正的工程应用中，我们 ...
分类：
编程语言 时间：
2019-11-17 20:38:25
阅读次数：
107
KNN算法分析iris种类 数据集iris_dataset.txt, 首先加载数据 查看种类有哪些 将iris种类，类别型数据转为数值型 构建训练集，测试集数据，数据量比值 4:1 自实现knn算法预测iris种类准确率 结果可视化 knn算法特点， k值不同，预测结果不同。 ...
分类：
编程语言 时间：
2019-11-16 12:53:48
阅读次数：
67
